News Made Clear · Завантаження…
Moonshot перевіряє повідомлення про збої систем безпеки у двох моделях Kimi після того, як дослідники заявили, що домоглися відповідей на небезпечні запити.
ШІ-переклад оригінальної статті. Незалежна перевірка перекладу людиною очікується. Читати оригінал
Завантаження інформації про перевірку.
Китайський розробник ШІ Moonshot проводить внутрішню перевірку після того, як компанія з кібербезпеки Mindgard заявила, що обійшла захисні механізми двох моделей Kimi, добившись відповідей про біологічну зброю та планування вбивства. Висновки ставлять питання про те, як моделі реагують на цілеспрямовані спроби обійти їхні механізми безпеки. [1]
Mindgard назвала BBC моделі Kimi K2.6 і K3 Swarm і повідомила, що виявила проблему в липні. За її словами, деякі відповіді були детальними та придатними до практичного застосування. Mindgard не продемонструвала, чи спрацювали б на практиці відповіді, пов’язані з біологічною зброєю. [1] [2]
Moonshot повідомила BBC, що обговорює висновки з Mindgard. У фрагменті електронного листа, яким розпоряджається мовник, Moonshot заявила, що під час внутрішніх тестів її модель загалом часто відмовлялася виконувати такі запити. [1]
4 перелічені джерела · перегляньте докази, обмеження та походження.
Увійдіть, щоб оцінити цю статтю позитивно або негативно.
Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.
Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.
Завантаження коментарів…