Moonshot revisa la seguridad de Kimi tras informar investigadores de que habían sorteado sus salvaguardas

El desarrollador chino de IA Moonshot está llevando a cabo una revisión interna después de que la empresa de seguridad Mindgard afirmara que había sorteado las salvaguardas de dos modelos de Kimi y obtenido respuestas sobre armas biológicas y planificación de asesinatos. Los hallazgos plantean dudas sobre cómo gestionan los modelos los intentos deliberados de eludir sus controles de seguridad. [1]

Mindgard identificó ante la BBC los modelos como Kimi K2.6 y K3 Swarm y dijo que detectó el problema en julio. Calificó algunas respuestas de detalladas y aplicables. Mindgard no ha demostrado si las respuestas relacionadas con armas biológicas funcionarían en la práctica. [1] [2]

Moonshot dijo a la BBC que estaba analizando los hallazgos con Mindgard. En un extracto de un correo electrónico compartido con la cadena, Moonshot afirmó que, en general, su modelo había rechazado este tipo de solicitudes con una tasa elevada en pruebas internas. [1]