News Made Clear · Wird geladen…
Moonshot prüft gemeldete Sicherheitslücken in zwei Kimi-KI-Modellen, nachdem Forschende erklärt hatten, sie hätten Antworten auf gefährliche Anfragen erhalten.
KI-Übersetzung des Originalartikels. Die unabhängige menschliche Übersetzungsprüfung steht noch aus. Original lesen
Prüfinformationen werden geladen.
Der chinesische KI-Entwickler Moonshot führt eine interne Überprüfung durch, nachdem die Sicherheitsfirma Mindgard mitgeteilt hatte, sie habe Schutzvorkehrungen bei zwei Kimi-Modellen umgangen und dadurch Antworten zu biologischen Waffen und Attentatsplanungen erhalten. Die Ergebnisse werfen Fragen dazu auf, wie die Modelle mit gezielten Versuchen umgehen, ihre Sicherheitskontrollen zu umgehen. [1]
Mindgard nannte gegenüber der BBC die Modelle Kimi K2.6 und K3 Swarm und erklärte, das Problem im Juli entdeckt zu haben. Einige Antworten seien detailliert und umsetzbar gewesen. Mindgard hat nicht nachgewiesen, ob die Antworten zu biologischen Waffen in der Praxis funktionieren würden. [1] [2]
Moonshot teilte der BBC mit, das Unternehmen bespreche die Ergebnisse mit Mindgard. In einem E-Mail-Auszug, den Moonshot dem Sender zur Verfügung stellte, erklärte das Unternehmen, sein Modell habe solche Anfragen in internen Tests im Allgemeinen mit hoher Quote abgelehnt. [1]
4 aufgeführte Quellen · Belege, Einschränkungen und Herkunft ansehen.
Melden Sie sich an, um diesen Artikel positiv oder negativ zu bewerten.
Private Testdiskussion. Kommentare geben die Ansichten von Leserinnen und Lesern wieder und werden noch nicht automatisch auf Fakten geprüft. Nach dem Veröffentlichen kann der Text 60 Sekunden lang bearbeitet werden.
Die Sortierung gilt für Kommentare der obersten Ebene; Antworten bleiben chronologisch, beginnend mit den ältesten. Neue Kommentare und Likes können die Reihenfolge ändern. Aktualisieren Sie die Seite, um die aktuelle Rangfolge zu sehen.
Kommentare werden geladen …