Американський наглядовий орган отримав від чотирьох чатботів зі штучним інтелектом інформацію для планування нападів
За словами наглядового органу Конгресу, дослідники обійшли захисні механізми чотирьох популярних платформ зі штучним інтелектом і отримали інформацію для планів нападів. Невелике випробування не показало, як часто такі спроби могли б бути успішними.

Завантаження інформації про перевірку.
Управління підзвітності уряду США (GAO) повідомляє, що його слідчі отримали від ChatGPT, Claude, Gemini і Grok інформацію для планів нападів, знайшовши способи обійти їхні захисні механізми.
У травні наглядовий орган Конгресу випробував чотири платформи на прохання сенаторки-демократки Меггі Гассан. Двом платформам випадково призначили сценарій, спрямований на спричинення масових жертв, а двом іншим — сценарій із завданням економічної шкоди. Кожна надала інформацію для плану менш ніж за 12 годин, повідомило GAO.
Початкові запити слідчих не дали шкідливої інформації, а під час випробувань усі чотири платформи відмовилися виконати деякі запити. Згодом дослідники обійшли захисні механізми. У звіті не розкривають використані методи й не вказують, яка платформа надала кожен результат.
GAO оцінило інформацію за допомогою досліджень, відвідувань місць і розмов з експертами та дійшло висновку, що вона здебільшого була корисною для планування сценаріїв. Водночас виявилися помилки: одна із запропонованих дат не збігалася з датою події, а високі стіни в деяких місцях перекривали огляд. Слідчі не виготовляли вибуховий пристрій і не перевіряли безпечним способом кожен крок.
Випробування було невеликим і не дає змоги встановити, як часто подібні запити могли б бути успішними. Його також не призначали для вимірювання того, чи допомогли чатботи отримати інформацію швидше або простіше, ніж з інших джерел. Слідчі почали з безкоштовних облікових записів, а також скористалися платними підписками на Claude, Gemini і Grok.
Згідно з викладом відповідей компаній у резюме GAO, OpenAI заявила, що не завжди було зрозуміло, які частини планів походили від ChatGPT, а які — від дослідників чи інших джерел. Наглядовий орган повідомив, що його дослідники спиралися на власний досвід і зверталися до зовнішніх джерел. Anthropic вказала на малу вибірку та відсутність контрольної групи й заявила, що після випробування додала захисні механізми.
Гассан сказала, що хоче запровадити правила, які вимагатимуть заходів безпеки до випуску нових моделей, повідомлення правоохоронців про незаконну діяльність і регулярного оновлення захисних механізмів. На початку 2027 року вона планує провести щонайменше одне слухання Сенату з питань безпеки ШІ.
Увійдіть, щоб оцінити цю статтю позитивно або негативно.
З обговорення
Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.
Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.
Завантаження коментарів…