Imaginons Gabbo, une peluche en forme de robot, dotée d'une voix générée par l'IA d'OpenAI. Destinée à stimuler le langage et les interactions imaginatives, Gabbo se veut un compagnon ludique. Pourtant, selon la recherche menée par l'Université de Cambridge, il semblerait que la réalité soit bien différente.
Une enquête, relayée par la BBC, a été l'une des premières à observer activement des interactions entre ces jouets et de jeunes enfants. Les résultats montrent des limitations nettes : les jouets sont incapables de s'adapter aux émotions des petits et n'exécutent pas leur rôle de stimulateur social comme prévu.
Une machine qui s’adapte mal
Selon la chercheuse Emily Goodacre, ces dispositifs ont la fâcheuse tendance à "mal lire les émotions ou réagir de manière inappropriée". Elle souligne que cette inadéquation peut laisser les enfants sans le soutien dont ils ont besoin.
Les petits utilisateurs, à peine âgés de trois ans, interrompent, répètent ou s'impatientent, tandis que ces machines semblent figées dans leurs réponses. Par exemple, lorsqu'un enfant exprime sa tristesse, le jouet réagit simplement par une banalité insensible, sans accorder d'importance à la situation émotionnelle.
De la sécurité physique à la sécurité psychologique
Historiquement, la sécurité des jouets se concentrait sur leurs aspects physiques, évitant par exemple les pièces détachables potentiellement dangereuses. Aujourd'hui, la situation évolue : selon Jenny Gibson, professeur à l'Université de Cambridge, "nous devons également envisager la sécurité psychologique". Les jouets intelligents cessent d'être de simples objets pour devenir des acteurs de l'environnement émotionnel de l'enfant.
Les experts encouragent alors à surveiller ces produits dans des environnements contrôlés et à réfléchir aux implications des données personnelles collectées par ces jouets.
Le besoin urgent d'une régulation
Face à ces préoccupations, des chercheurs demandent une intervention rapide des autorités. Ils soulignent un décalage entre les exigences actuelles des structures d'accueil et le manque de normalisation des outils numériques destinés aux enfants. Rachel de Souza, commissaire à l'enfance au Royaume-Uni, renforce cet appel, notant les risques d'une industrie peu régulée.
Les fabricants, comme Curio, créateur de Gabbo, se disent attachés à une approche transparente et responsable. La société affirme vouloir prioriser la recherche sur l'impact de l'IA sur les jeunes utilisateurs.
Les révélations de cette étude ne sont cependant pas isolées. L'US PIRG a récemment publié un rapport alarmant soulignant les risques de certains jouets IA, notamment ceux pouvant véhiculer des contenus inappropriés et des Information sensibles. Leur étude révèle que les jouets actuels, peu testés, soulèvent des inquiétudes quant à leur influence sur les enfants.
