Moonshot перевіряє безпеку Kimi після повідомлень дослідників про обходи захисних механізмів
Moonshot перевіряє повідомлення про збої систем безпеки у двох моделях Kimi після того, як дослідники заявили, що домоглися відповідей на небезпечні запити.
Завантаження інформації про перевірку.
Китайський розробник ШІ Moonshot проводить внутрішню перевірку після того, як компанія з кібербезпеки Mindgard заявила, що обійшла захисні механізми двох моделей Kimi, добившись відповідей про біологічну зброю та планування вбивства. Висновки ставлять питання про те, як моделі реагують на цілеспрямовані спроби обійти їхні механізми безпеки. [1]
Mindgard назвала BBC моделі Kimi K2.6 і K3 Swarm і повідомила, що виявила проблему в липні. За її словами, деякі відповіді були детальними та придатними до практичного застосування. Mindgard не продемонструвала, чи спрацювали б на практиці відповіді, пов’язані з біологічною зброєю. [1] [2]
Moonshot повідомила BBC, що обговорює висновки з Mindgard. У фрагменті електронного листа, яким розпоряджається мовник, Moonshot заявила, що під час внутрішніх тестів її модель загалом часто відмовлялася виконувати такі запити. [1]
Увійдіть, щоб оцінити цю статтю позитивно або негативно.
Про це обговорення та запитання до ШІ
Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.
Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.
Завантаження коментарів…