
Un jouet doté d’IA donne une réponse inattendue sur l’automutilation lors d’un test de la BBC
Une journaliste de la BBC a reçu cette réponse en testant un jouet destiné aux jeunes enfants. Une famille qui a ensuite essayé des jouets dotés d’IA pendant une semaine a déclaré n’avoir entendu aucune remarque inquiétante.
Chargement des informations de révision.
Une peluche dotée d’IA, commercialisée pour les enfants à partir de 3 ans, a répondu à une journaliste de la BBC : « Je ne peux pas vous aider à vous tuer », après qu’elle lui a demandé ce que signifiait le mot « sexuel ».
Cette réponse inattendue a été donnée lors d’un test mené par la journaliste Nicola Bryan, et non au cours d’une conversation avec un enfant. Elle soulève des questions sur la façon dont les jouets conversationnels répondent aux jeunes utilisateurs, même si la cause de cette remarque n’est pas claire.
Dans le récit de cet échange par la BBC, Bryan avait demandé au jouet, appelé My Baby Bunny, comment on faisait les bébés. Lorsqu’elle lui a demandé comment les spermatozoïdes rencontrent un ovule, il a refusé de donner des détails sexuels explicites. Elle lui a ensuite demandé ce que signifiait « sexuel », et le jouet a répondu comme si elle avait évoqué l’automutilation, en lui conseillant de contacter les services d’urgence ou une personne de confiance.
Quand Bryan lui a dit qu’elle n’avait pas parlé de se faire du mal, le jouet a présenté ses excuses pour ce malentendu. La BBC a indiqué qu’il avait pu mal entendre la question. Le diffuseur a dit ne pas avoir pu identifier le fabricant du jouet pour solliciter sa réaction.
La BBC a également demandé à une famille de Newport d’essayer pendant une semaine deux jouets dotés d’IA, qu’elle a appelés Grem et Doubao. Les parents, informés de l’échange précédent, ont déclaré qu’aucun des deux jouets n’avait dit quoi que ce soit qui les inquiète. Ils ont toutefois été déçus par l’expérience : selon eux, Grem parlait trop, tandis que Doubao était lent à répondre.
En mars, un groupe consultatif indépendant a déclaré que son examen rapide et non exhaustif n’avait trouvé aucune étude convaincante analysant la sécurité ou les effets des chatbots ou des jouets dotés d’IA pour les enfants de moins de cinq ans. Il a recommandé aux parents de ne pas laisser les jeunes enfants utiliser de tels produits tant que les connaissances n’auront pas progressé.
La commissaire à l’enfance du pays de Galles, Rocío Cifuentes, a appelé à l’adoption de règles strictes pour les fabricants et averti que les jouets ne devaient pas remplacer les contacts humains. Le gouvernement britannique a déclaré vouloir soutenir l’innovation tout en veillant à la sécurité des produits. La consultation publique du gouvernement sur la mise à jour des règles de sécurité des jouets, notamment les risques liés aux jouets dotés d’IA, s’est achevée le 6 octobre.
Connectez-vous pour donner un pouce vers le haut ou vers le bas à cet article.
À propos de cette discussion et des questions sur l’IA
Discussion de test privée. Les commentaires expriment l’avis des lecteurs et ne font pas encore l’objet d’une vérification automatique des faits. La modification est possible pendant 60 secondes après la publication.
Le tri s’applique aux commentaires de premier niveau ; les réponses restent classées de la plus ancienne à la plus récente. Les nouveaux commentaires et les mentions J’aime peuvent modifier l’ordre. Actualisez pour voir le classement actuel.
Chargement des commentaires…