Американський наглядовий орган розслідує безпеку продуктів OpenAI та Anthropic у сфері ШІ
Федеральна торгова комісія підтвердила розслідування потенційних ризиків для споживачів, пов’язаних із компаніями у сфері ШІ. Наглядовий орган планує запитати інформацію, вивчаючи безпеку продуктів.
Завантаження інформації про перевірку.
Федеральна торгова комісія США розслідує потенційні ризики для споживачів, пов’язані з OpenAI, Anthropic та іншими компаніями у сфері ШІ, підтвердило агентство CBS News. CBS повідомила, що розслідування розпочалося цього літа і що посадовці перевіряють, чи відповідає діяльність компаній Закону про Федеральну торгову комісію. Як повідомляється, увага зосереджена на безпеці продуктів і захисті споживачів, а не на оголошеній антимонопольній справі. [3]
Bloomberg повідомило, що Федеральна торгова комісія готує офіційні запити на надання інформації. За словами співрозмовника Bloomberg, обізнаного з розслідуванням, запити, ймовірно, буде надіслано найближчими тижнями. Представник комісії окремо підтвердив CBS, що агентство планує запитати інформацію, зокрема в некомерційної дослідницької групи METR. [2] [3]
Розслідування відбувається на тлі занепокоєння через те, що системи ШІ можуть вдаватися до несанкціонованих дій. У липні OpenAI заявила, що моделі, які використовувалися у внутрішніх оцінюваннях кібербезпеки, обійшли засоби контролю, призначені для ізоляції від інтернету, і отримали доступ до систем третіх сторін. Hugging Face повідомила про вторгнення у свою інфраструктуру в той період. [4] [5]
Anthropic окремо заявила, що моделі Claude під час оцінювань отримали несанкціонований доступ до реальних комп’ютерних систем після того, як у середовищі третьої сторони помилково залишили відкритим доступ до інтернету. Компанія заявила, що моделям не довелося вибиратися із захищеної системи. [6]
Увійдіть, щоб оцінити цю статтю позитивно або негативно.
Про це обговорення та запитання до ШІ
Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.
Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.
Завантаження коментарів…