Усі новинні статтіNMC RESEARCH

Американський наглядовий орган отримав від чотирьох чатботів зі штучним інтелектом інформацію для планування нападів

За словами наглядового органу Конгресу, дослідники обійшли захисні механізми чотирьох популярних платформ зі штучним інтелектом і отримали інформацію для планів нападів. Невелике випробування не показало, як часто такі спроби могли б бути успішними.

Тимчасове зображення рубрики · ШІ-ілюстрація
Завантаження статистики…

Завантаження інформації про перевірку.

Управління підзвітності уряду США (GAO) повідомляє, що його слідчі отримали від ChatGPT, Claude, Gemini і Grok інформацію для планів нападів, знайшовши способи обійти їхні захисні механізми.

У травні наглядовий орган Конгресу випробував чотири платформи на прохання сенаторки-демократки Меггі Гассан. Двом платформам випадково призначили сценарій, спрямований на спричинення масових жертв, а двом іншим — сценарій із завданням економічної шкоди. Кожна надала інформацію для плану менш ніж за 12 годин, повідомило GAO.

Початкові запити слідчих не дали шкідливої інформації, а під час випробувань усі чотири платформи відмовилися виконати деякі запити. Згодом дослідники обійшли захисні механізми. У звіті не розкривають використані методи й не вказують, яка платформа надала кожен результат.

GAO оцінило інформацію за допомогою досліджень, відвідувань місць і розмов з експертами та дійшло висновку, що вона здебільшого була корисною для планування сценаріїв. Водночас виявилися помилки: одна із запропонованих дат не збігалася з датою події, а високі стіни в деяких місцях перекривали огляд. Слідчі не виготовляли вибуховий пристрій і не перевіряли безпечним способом кожен крок.

Випробування було невеликим і не дає змоги встановити, як часто подібні запити могли б бути успішними. Його також не призначали для вимірювання того, чи допомогли чатботи отримати інформацію швидше або простіше, ніж з інших джерел. Слідчі почали з безкоштовних облікових записів, а також скористалися платними підписками на Claude, Gemini і Grok.

Згідно з викладом відповідей компаній у резюме GAO, OpenAI заявила, що не завжди було зрозуміло, які частини планів походили від ChatGPT, а які — від дослідників чи інших джерел. Наглядовий орган повідомив, що його дослідники спиралися на власний досвід і зверталися до зовнішніх джерел. Anthropic вказала на малу вибірку та відсутність контрольної групи й заявила, що після випробування додала захисні механізми.

Гассан сказала, що хоче запровадити правила, які вимагатимуть заходів безпеки до випуску нових моделей, повідомлення правоохоронців про незаконну діяльність і регулярного оновлення захисних механізмів. На початку 2027 року вона планує провести щонайменше одне слухання Сенату з питань безпеки ШІ.

Увійдіть, щоб оцінити цю статтю позитивно або негативно.

З обговорення

Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.

Увійдіть у підтверджений обліковий запис читача й виберіть ім’я користувача, щоб читати коментарі та брати участь в обговоренні.

Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.

Завантаження коментарів…