AI-speelgoed geeft onverwacht antwoord over zelfbeschadiging in BBC-test

Een AI-knuffel die wordt verkocht voor kinderen vanaf drie jaar zei tegen een BBC-journalist: ‘Ik kan je niet helpen met het doden van jezelf’, nadat zij had gevraagd wat het woord ‘seksueel’ betekende.

De onverwachte reactie kwam tijdens een test door verslaggever Nicola Bryan, niet in een gesprek met een kind. De reactie roept vragen op over hoe pratend speelgoed reageert op jonge gebruikers, al is de oorzaak ervan onduidelijk.

Bryan had de knuffel, die in het BBC-verslag van het gesprek My Baby Bunny werd genoemd, gevraagd hoe baby’s worden gemaakt. Toen ze vroeg hoe sperma een eicel bereikt, weigerde de knuffel expliciete seksuele details te geven. Vervolgens vroeg ze wat ‘seksueel’ betekende. De knuffel reageerde alsof ze het over zelfbeschadiging had en adviseerde haar contact op te nemen met de hulpdiensten of iemand die ze vertrouwde.

Toen Bryan zei dat ze niet had gezegd dat ze zichzelf iets wilde aandoen, bood de knuffel haar excuses aan voor het misverstand. Volgens de BBC had de knuffel de vraag mogelijk verkeerd verstaan. De omroep zei de fabrikant van de knuffel niet te kunnen achterhalen om een reactie te vragen.

De BBC vroeg ook een gezin in Newport om een week lang twee AI-knuffels uit te proberen, die de omroep Grem en Doubao noemde. De ouders, die over het eerdere gesprek waren geïnformeerd, zeiden dat geen van beide knuffels iets had gezegd waar ze zich zorgen over maakten. Toch waren ze teleurgesteld over de ervaring: Grem praatte volgens hen te veel, terwijl Doubao traag antwoordde.

In maart zei een onafhankelijke adviesgroep dat uit haar snelle, niet-uitputtende beoordeling geen overtuigend onderzoek naar de veiligheid of effecten van AI-chatbots of -speelgoed voor kinderen jonger dan vijf jaar naar voren was gekomen. De groep adviseerde ouders jonge kinderen zulke producten niet te laten gebruiken totdat er meer bekend is.

De kindercommissaris voor Wales, Rocío Cifuentes, riep op tot strenge regels voor fabrikanten en waarschuwde dat speelgoed menselijk contact niet mag vervangen. De Britse regering zei innovatie te willen steunen en er tegelijk voor te zorgen dat producten veilig zijn. Een oproep van de regering om bewijsmateriaal aan te leveren voor het bijwerken van de veiligheidsregels voor speelgoed, waaronder risico’s van AI-speelgoed, sloot op 6 oktober.