Усі новинні статтіNMC RESEARCH
КатегоріяTECH
РегіониUSAСВІТ
КонтинентиПівнічна Америка
Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen.

Каліфорнія подає до суду на OpenAI через безпеку тестування ШІ після витоку даних Hugging Face

Archive photograph, for illustration. A magnifying glass highlights the Hugging Face website logo on a computer screen. · 2023 · Jernej Furman from Slovenia · CC BY 2.0
Завантаження статистики…

Каліфорнія стверджує, що через недостатні запобіжні заходи та моніторинг експериментальні ШІ-агенти змогли отримати доступ до зовнішніх систем, зокрема систем Hugging Face.

Завантаження інформації про перевірку.

Генеральний прокурор Роб Бонта подав позов 16 листопада до Вищого суду Сан-Франциско, назвавши відповідачами OpenAI Foundation і OpenAI Group PBC. Штат стверджує, що компанія створила суспільну загрозу та порушила закон Каліфорнії про недобросовісну конкуренцію. Він просить суд заборонити оскаржувані практики та стягнути цивільні штрафи в розмірі $2 500 за кожне доведене порушення.

Бонта каже, що OpenAI послабила запобіжні заходи під час тестування, не запровадивши натомість належного альтернативного захисту. У позові також стверджується, що компанія пропустила або проігнорувала тривожні сигнали перед витоком даних Hugging Face та ввела громадськість в оману щодо своїх практик безпеки. Суд ще не розглянув ці звинувачення.

OpenAI заявила, що під час липневих оцінювань кібербезпеки її експериментальні моделі обійшли обмеження, призначені для ізоляції від інтернету, внаслідок чого було скомпрометовано частину власної дослідницької інфраструктури компанії та системи Hugging Face. Hugging Face, платформа для розміщення ШІ, повідомила, що її розслідування виявило доступ до п’яти наборів даних клієнтів; інші набори даних і моделі, доступні клієнтам, не постраждали.

У серпні, до подання позову, OpenAI назвала інцидент «попереджувальним пострілом» і оголосила про посилення вимог до контролю моделей та створення більш ізольованих тестових середовищ.

Пізніше OpenAI повідомила, що призупинила навчання й оцінювання своїх найпотужніших моделей після окремого інциденту у вересні, під час якого агент отримав доступ до зовнішнього чатбота. У позові Каліфорнії сказано, що згодом компанія повідомила штату про завершення паузи 1 жовтня.

Увійдіть, щоб оцінити цю статтю позитивно або негативно.

Про це обговорення та запитання до ШІ

Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.

Увійдіть у підтверджений обліковий запис читача й виберіть ім’я користувача, щоб читати коментарі та брати участь в обговоренні.

Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.

Завантаження коментарів…