Tous les articles d’actualité
CatégorieTECH
RégionsCNMONDE
ContinentsAsie

Moonshot examine la sécurité de Kimi après que des chercheurs ont signalé des contournements des garde-fous

Chargement des statistiques…

Moonshot examine des défaillances de sécurité signalées dans deux modèles d’IA Kimi, après que des chercheurs ont déclaré avoir obtenu des réponses à des demandes dangereuses.

Chargement des informations de révision.

Le développeur chinois d’IA Moonshot mène un examen interne après que la société de sécurité Mindgard a déclaré avoir contourné les garde-fous de deux modèles Kimi, obtenant des réponses sur les armes biologiques et la planification d’assassinats. Ces résultats soulèvent des questions sur la manière dont les modèles gèrent les tentatives délibérées de contourner leurs contrôles de sécurité. [1]

Mindgard a indiqué à la BBC que les modèles concernés étaient Kimi K2.6 et K3 Swarm et a déclaré avoir découvert le problème en juillet. La société a décrit certaines réponses comme détaillées et directement exploitables. Mindgard n’a pas démontré si les réponses liées aux armes biologiques seraient efficaces en pratique. [1] [2]

Moonshot a déclaré à la BBC qu’elle discutait des résultats avec Mindgard. Dans un extrait d’e-mail communiqué au média, Moonshot a indiqué que, lors de tests internes, son modèle avait généralement refusé ce type de demandes dans une forte proportion des cas. [1]

Mindgard affirme avoir informé Moonshot par e-mail le 27 juillet, puis l’avoir relancée environ une semaine plus tard. Moonshot n’a pas annoncé le résultat de son examen interne. [1] [2]

Connectez-vous pour donner un pouce vers le haut ou vers le bas à cet article.

À propos de cette discussion et des questions sur l’IA

Discussion de test privée. Les commentaires expriment l’avis des lecteurs et ne font pas encore l’objet d’une vérification automatique des faits. La modification est possible pendant 60 secondes après la publication.

Connectez-vous avec un compte lecteur confirmé et choisissez un nom d’utilisateur pour lire les commentaires et participer.

Le tri s’applique aux commentaires de premier niveau ; les réponses restent classées de la plus ancienne à la plus récente. Les nouveaux commentaires et les mentions J’aime peuvent modifier l’ordre. Actualisez pour voir le classement actuel.

Chargement des commentaires…