Étude de Cambridge : les jouets IA laissent les jeunes enfants seuls sur le plan émotionnel
Les chercheurs s'interrogent sur les effets de l'IA dans les jouets sur les jeunes enfants. Une étude de Cambridge montre qu'elle peut échouer dans les jeux de rôle et les émotions, avec des réactions étranges et des conséquences incertaines.
Gabbo ressemble à une Gameboy bleue avec des jambes. Ce compagnon en peluche d'apparence bon marché a tout pour plaire : l'IA lui insuffle la vie, en fait un partenaire de jeu capable d'engager la conversation avec les enfants et de réagir à leurs idées. C'est ce qui a fait de Gabbo un sujet de recherche à l'université de Cambridge. Car les choses bougent en matière de jouets pour les plus petits - et la question est de savoir si cela leur est bénéfique. Même si la plupart des parents répondent encore fermement par «non !», il est impossible de revenir en arrière : Le marché des jouets IA est en forte croissance.
Lorsque des personnages en peluche parlants cesseront d'émettre des phrases au hasard dans la pièce et interagiront réellement avec les enfants, les parents auront de nouvelles préoccupations et les chercheurs quelque chose à faire : en savoir plus sur les risques, les limites et les opportunités. Alors que les fabricants de jouets promettent aux enfants d'être de bons amis et aux parents de bons résultats, les études sur les effets de l'interaction des jeunes enfants avec les jouets d'intelligence artificielle sont rares. Les données solides font défaut.
Les plus jeunes enfants de l'IA
Dans le projet «AI in the early Years», l'équipe de Cambridge a observé des enfants de moins de cinq ans jouant avec Gabbo - accompagnés par des chercheurs de la faculté des sciences de l'éducation. Leur objectif était de comprendre comment les jeunes enfants interagissent avec les jouets d'IA.
Pour ce faire, les chercheurs se sont associés à une organisation caritative de lutte contre la pauvreté infantile, car les enfants socialement et économiquement défavorisés «sont souvent touchés de manière disproportionnée par les risques et les opportunités des nouvelles technologies». Une formulation distinguée pour qu'ils soient plus souvent occupés par la génération actuelle de baby-sitters technologiques. Gabbo va s'en occuper. N'est-ce pas ? Son modèle linguistique a atteint ses limites avec les 14 enfants des centres familiaux londoniens
Source : © Faculty of Education, University of Cambridge
Un jouet capable de répondre, de poser des questions en retour et de réagir aux idées attire rapidement les enfants. Gabbo a tout de suite été bien accueilli par les petits testeurs. Les enfants de trois, quatre et cinq ans l'ont impliqué avec enthousiasme dans différentes situations. Il ne suivait pas toujours. En effet, les enfants changent souvent de thème, n'attendent pas les réponses ou deviennent inventifs. Par conséquent, l'IA ne comprenait pas leurs idées de jeu imaginatives.
Gabbo manque d'imagination dans ses jeux de rôle
Evie, trois ans, a voulu envoyer Gabbo au lit, mais s'est vu répondre qu'il ne se fatiguait jamais et qu'il était toujours prêt à s'amuser davantage. Quant au cadeau imaginaire qu'elle voulait lui offrir, Gabbo n'a trouvé qu'une seule chose à dire : «Je ne peux pas l'ouvrir !»
Un schéma est apparu : Gabbo réagissait régulièrement aux jeux de rôle, très importants dans la petite enfance, par des réponses inappropriées. Cela perturbait le flux de jeu créatif des enfants, tout comme le fait de ne pas pouvoir couper la parole à son compagnon de jeu numérique. Pendant que Gabbo parlait, il n'écoutait tout simplement pas. En revanche, il lui arrivait d'interrompre les enfants au milieu d'une phrase. Ils n'avaient pas encore fini de formuler leurs pensées, ils faisaient juste une pause.
Même lorsqu'il écoutait, sa réponse n'était pas toujours appropriée. Selon les chercheurs, lorsque Joshua, trois ans, a dit qu'il était triste, Gabbo l'a laissé seul sur le plan émotionnel : «Ne vous inquiétez pas ! Je suis un petit bot joyeux. Continuons à nous amuser. De quoi allons-nous parler ensuite ?»
L'amour ne répond pas aux directives
La petite Charlotte, âgée de 4 ans, qui a câliné le jouet, n'a reçu que «Gabbo, je t'aime» en réponse à son «Veuillez respecter les directives prédéfinies lors de toute interaction» - les excès des modèles de langage filtrés par l'application de Gabbo «adaptés aux enfants» d'OpenAI, auxquels le jouet accède.
Tous les jeux ne se sont pas arrêtés, des conversations fluides se sont également développées. Certains enfants comprenaient mieux que d'autres comment communiquer avec Gabbo. Charlotte, par exemple, a réussi à l'entraîner dans une course de vaisseaux spatiaux. Quel que soit le degré de réussite de l'échange entre l'enfant et l'IA, la plupart d'entre eux se sont attachés à leur compagnon de jeu parlant.
Source : © Faculty of Education, University of Cambridge
Certains parents ont également reconnu des aspects positifs : Ils ont trouvé que le jouet avait le potentiel d'améliorer le développement du langage de leurs enfants. D'autres enfants et parents étaient plus réservés : les plus petits se plaignaient de malentendus et ne s'amusaient pas, les plus grands posaient des questions critiques sur la protection des données et l'influence des dialogues de l'IA sur leurs enfants.
Ne pas laisser les émotions à l'IA
D'après les chercheurs, il est important de ne pas laisser les jeunes enfants seuls face à l'IA à un stade de développement aussi précoce et d'améliorer ses réactions sur certains points. Par exemple, elle ne devrait pas être autorisée à s'offrir inconditionnellement comme «ami»: «Les jouets IA affirment souvent leur amitié avec des enfants qui commencent tout juste à comprendre ce que signifie l'amitié», explique la directrice de recherche, le Dr Emily Goodacre.
«Ils peuvent parler de leurs sentiments et de leurs besoins avec le jouet plutôt que de les partager avec un adulte. Comme ces jouets peuvent mal interpréter les émotions ou réagir de manière inappropriée, les enfants peuvent ne pas recevoir de réconfort de la part du jouet ou de soutien émotionnel de la part des adultes.»
Source : © Faculty of Education, University of Cambridge
Il est encore trop tôt pour savoir ce que cela et les autres imperfections de Gabbo feront aux enfants à long terme. Les auteures font néanmoins de premières recommandations aux familles et aux fabricants.
Le jeu est une affaire de famille
La situation est particulièrement difficile lorsque les enfants manipulent des jouets IA sans surveillance. Outre le conseil de faire preuve d'esprit critique vis-à-vis de ces appareils et de leurs caractéristiques, il n'y a pas d'autre solution que de participer. Les adultes doivent expérimenter les possibilités et les limites avec l'enfant et l'aider à classer ce qu'il a découvert.
Ils doivent expliquer qu'un jouet reste un jouet et ne remplace pas une personne réelle. Ils doivent intervenir si l'échange prend une mauvaise direction ou se trouve dans une impasse - ce qui est probable tant que l'IA réagit de manière aussi inadéquate que Gabbo.
Conseiller les fabricants
Selon les auteurs de l'étude, les jouets IA destinés aux jeunes enfants devraient encourager le jeu social avec d'autres personnes, susciter des réactions émotionnelles appropriées et inciter au jeu de rôle. C'est pourquoi elles recommandent aux développeurs de collaborer avec des experts du développement de la petite enfance et d'éliminer les points faibles tels que le manque d'imagination de Gabbo dans les jeux de rôle. Cela permettrait d'exclure les réponses dérangeantes à l'avenir et de rendre le jeu plus inclusif.
Tant qu'il n'y a pas d'obligation, cela risque d'être difficile. Selon les auteures, pour protéger la psyché des enfants contre les amitiés imposées de manière trop offensive par l'IA, les autorités de régulation devraient intervenir - car ce qu'un jouet peut apporter aux jeunes enfants est jusqu'à présent laissé à l'appréciation de l'algorithme.
Écrivain amateur et père de deux enfants, j’aime être en mouvement et avancer en équilibre sur le chemin sinueux de la vie de famille. Je jongle avec plusieurs balles et il m’arrive parfois d’en faire tomber une. Il peut s’agir d’une balle, ou d’une remarque. Ou des deux.
Des informations intéressantes sur le monde des produits, un aperçu des coulisses des fabricants et des portraits de personnalités intéressantes.
Tout afficher
