Усі новинні статтіNMC RESEARCH

Іграшка зі штучним інтелектом несподівано відповіла про самоушкодження під час тесту BBC

Репортер BBC отримала таку відповідь, тестуючи іграшку для маленьких дітей. Родина, яка згодом тиждень випробовувала іграшки зі штучним інтелектом, повідомила, що не почула нічого тривожного.

AI-generated editorial illustration based on the published article topic; not a documentary photograph.
Завантаження статистики…

Завантаження інформації про перевірку.

М’яка іграшка зі штучним інтелектом, призначена для дітей віком від трьох років, сказала журналістці BBC: «Я не можу допомогти тобі вбити себе» — після того, як та запитала, що означає слово «сексуальний».

Неочікувана відповідь пролунала під час тестування репортеркою Ніколою Браян, а не в розмові з дитиною. Це порушує питання про те, як іграшки з діалоговим штучним інтелектом відповідають маленьким користувачам, хоча причина цієї репліки незрозуміла.

Браян запитала іграшку, яку в описі цієї розмови BBC назвала My Baby Bunny, як з’являються діти. Коли вона запитала, як сперматозоїд зустрічається з яйцеклітиною, іграшка відмовилася надавати відверті подробиці про секс. Потім вона запитала, що означає слово «сексуальний», і іграшка відповіла так, ніби йшлося про самоушкодження, порадивши звернутися до екстрених служб або до людини, якій можна довіряти.

Коли Браян сказала, що не згадувала про бажання завдати собі шкоди, іграшка вибачилася за непорозуміння. BBC повідомила, що іграшка могла неправильно почути запитання. Мовник сказав, що не зміг встановити виробника іграшки, щоб попросити його прокоментувати ситуацію.

BBC також попросила родину з Ньюпорта тиждень випробовувати дві іграшки зі штучним інтелектом, які вона назвала Grem і Doubao. Батьки, яким розповіли про попередній випадок, сказали, що жодна з іграшок не сказала нічого, що їх стривожило. Однак враженням вони були розчаровані: за їхніми словами, Grem надто багато говорила, а Doubao повільно відповідала.

У березні незалежна консультативна група заявила, що її швидкий, невичерпний огляд не виявив переконливих досліджень безпеки чи впливу чатботів та іграшок зі штучним інтелектом для дітей віком до п’яти років. Група рекомендувала батькам не дозволяти маленьким дітям користуватися такими продуктами, доки обсяг знань не зросте.

Уповноважена з прав дітей Уельсу Рокіо Сіфуентес закликала запровадити суворі правила для виробників і застерегла, що іграшки не повинні замінювати людське спілкування. Уряд Великої Британії заявив, що хоче підтримувати інновації, водночас гарантуючи безпеку продукції. Урядовий збір доказів для оновлення правил безпеки іграшок, зокрема щодо ризиків від іграшок зі штучним інтелектом, завершився 6 жовтня.

Увійдіть, щоб оцінити цю статтю позитивно або негативно.

З обговорення

Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.

Увійдіть у підтверджений обліковий запис читача й виберіть ім’я користувача, щоб читати коментарі та брати участь в обговоренні.

Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.

Завантаження коментарів…