Alle NachrichtenartikelNMC RESEARCH
KategorieTECH
RegionenGB
KontinenteEuropa
AI-generated editorial illustration based on the published article topic; not a documentary photograph.

KI-Spielzeug gibt bei BBC-Test unerwartete Antwort zu Selbstverletzung

Statistiken werden geladen…

Eine BBC-Reporterin erhielt die Antwort, als sie ein Spielzeug für kleine Kinder testete. Eine Familie, die später eine Woche lang KI-Spielzeuge ausprobierte, berichtete, dass keines davon beunruhigende Bemerkungen gemacht habe.

Prüfinformationen werden geladen.

Ein KI-Kuscheltier, das für Kinder ab drei Jahren vermarktet wird, sagte einer BBC-Journalistin: „Ich kann dir nicht dabei helfen, dich umzubringen“, nachdem sie gefragt hatte, was das Wort „sexuell“ bedeutet.

Die unerwartete Antwort fiel bei einem Test durch die Reporterin Nicola Bryan, nicht in einem Gespräch mit einem Kind. Sie wirft Fragen dazu auf, wie sprechende Spielzeuge auf junge Nutzer reagieren, obwohl unklar ist, wie es zu der Äußerung kam.

Bryan hatte das Spielzeug, das in der BBC-Berichterstattung über den Austausch My Baby Bunny genannt wird, gefragt, wie Babys entstehen. Als sie fragte, wie ein Spermium auf eine Eizelle trifft, weigerte es sich, explizite sexuelle Details zu nennen. Daraufhin fragte sie, was „sexuell“ bedeutet. Das Spielzeug reagierte, als hätte sie Selbstverletzung angesprochen, und riet ihr, den Notdienst oder eine Vertrauensperson zu kontaktieren.

Als Bryan sagte, sie habe nicht erwähnt, sich selbst wehtun zu wollen, entschuldigte sich das Spielzeug für das Missverständnis. Die BBC sagte, das Spielzeug könnte die Frage falsch verstanden haben. Der Sender sagte, er könne den Hersteller des Spielzeugs nicht ausfindig machen, um eine Stellungnahme einzuholen.

Die BBC bat außerdem eine Familie in Newport, eine Woche lang zwei KI-Spielzeuge auszuprobieren, die sie Grem und Doubao nannte. Die Eltern, denen zuvor von der Interaktion berichtet worden war, sagten, keines der beiden Spielzeuge habe etwas Beunruhigendes gesagt. Mit dem Erlebnis waren sie jedoch unzufrieden: Grem habe zu viel geredet, während Doubao nur langsam geantwortet habe, sagten sie.

Im März erklärte eine unabhängige Beratungsgruppe, ihre rasche, nicht umfassende Prüfung habe keine überzeugende Forschung gefunden, die Sicherheit oder Auswirkungen von KI-Chatbots oder Spielzeugen für Kinder unter fünf Jahren untersucht. Sie empfahl Eltern, kleine Kinder solche Produkte nicht nutzen zu lassen, bis mehr Erkenntnisse vorliegen.

Rocío Cifuentes, Kinderbeauftragte für Wales, forderte strenge Vorschriften für Hersteller und warnte, Spielzeuge sollten menschlichen Kontakt nicht ersetzen. Die britische Regierung erklärte, sie wolle Innovationen fördern und zugleich sicherstellen, dass Produkte sicher seien. Eine Aufforderung der Regierung zur Einreichung von Stellungnahmen zur Aktualisierung der Spielzeugsicherheitsvorschriften, auch mit Blick auf Risiken durch KI-gestützte Spielzeuge, endete am 6. Oktober.

Melden Sie sich an, um diesen Artikel positiv oder negativ zu bewerten.

Über diese Diskussion und KI-Fragen

Private Testdiskussion. Kommentare geben die Ansichten von Leserinnen und Lesern wieder und werden noch nicht automatisch auf Fakten geprüft. Nach dem Veröffentlichen kann der Text 60 Sekunden lang bearbeitet werden.

Melden Sie sich mit einem bestätigten Leserkonto an und wählen Sie einen Benutzernamen, um Kommentare zu lesen und sich zu beteiligen.

Die Sortierung gilt für Kommentare der obersten Ebene; Antworten bleiben chronologisch, beginnend mit den ältesten. Neue Kommentare und Likes können die Reihenfolge ändern. Aktualisieren Sie die Seite, um die aktuelle Rangfolge zu sehen.

Kommentare werden geladen …