Усі новинні статті
КатегоріяTECH
РегіониCNСВІТ
КонтинентиАзія

Moonshot перевіряє безпеку Kimi після повідомлень дослідників про обходи захисних механізмів

Завантаження статистики…

Moonshot перевіряє повідомлення про збої систем безпеки у двох моделях Kimi після того, як дослідники заявили, що домоглися відповідей на небезпечні запити.

Завантаження інформації про перевірку.

Китайський розробник ШІ Moonshot проводить внутрішню перевірку після того, як компанія з кібербезпеки Mindgard заявила, що обійшла захисні механізми двох моделей Kimi, добившись відповідей про біологічну зброю та планування вбивства. Висновки ставлять питання про те, як моделі реагують на цілеспрямовані спроби обійти їхні механізми безпеки. [1]

Mindgard назвала BBC моделі Kimi K2.6 і K3 Swarm і повідомила, що виявила проблему в липні. За її словами, деякі відповіді були детальними та придатними до практичного застосування. Mindgard не продемонструвала, чи спрацювали б на практиці відповіді, пов’язані з біологічною зброєю. [1] [2]

Moonshot повідомила BBC, що обговорює висновки з Mindgard. У фрагменті електронного листа, яким розпоряджається мовник, Moonshot заявила, що під час внутрішніх тестів її модель загалом часто відмовлялася виконувати такі запити. [1]

Mindgard заявляє, що повідомила Moonshot електронною поштою 27 July, а приблизно за тиждень надіслала повторне звернення. Moonshot не оголошувала результатів внутрішньої перевірки. [1] [2]

Увійдіть, щоб оцінити цю статтю позитивно або негативно.

Про це обговорення та запитання до ШІ

Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.

Увійдіть у підтверджений обліковий запис читача й виберіть ім’я користувача, щоб читати коментарі та брати участь в обговоренні.

Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.

Завантаження коментарів…