Alle Nachrichtenartikel
KategorieTECH
RegionenCNWELT
KontinenteAsien

Moonshot prüft Kimi-Sicherheit, nachdem Forschende gemeldet haben, Schutzvorkehrungen umgangen zu haben

Statistiken werden geladen…

Moonshot prüft gemeldete Sicherheitslücken in zwei Kimi-KI-Modellen, nachdem Forschende erklärt hatten, sie hätten Antworten auf gefährliche Anfragen erhalten.

Prüfinformationen werden geladen.

Der chinesische KI-Entwickler Moonshot führt eine interne Überprüfung durch, nachdem die Sicherheitsfirma Mindgard mitgeteilt hatte, sie habe Schutzvorkehrungen bei zwei Kimi-Modellen umgangen und dadurch Antworten zu biologischen Waffen und Attentatsplanungen erhalten. Die Ergebnisse werfen Fragen dazu auf, wie die Modelle mit gezielten Versuchen umgehen, ihre Sicherheitskontrollen zu umgehen. [1]

Mindgard nannte gegenüber der BBC die Modelle Kimi K2.6 und K3 Swarm und erklärte, das Problem im Juli entdeckt zu haben. Einige Antworten seien detailliert und umsetzbar gewesen. Mindgard hat nicht nachgewiesen, ob die Antworten zu biologischen Waffen in der Praxis funktionieren würden. [1] [2]

Moonshot teilte der BBC mit, das Unternehmen bespreche die Ergebnisse mit Mindgard. In einem E-Mail-Auszug, den Moonshot dem Sender zur Verfügung stellte, erklärte das Unternehmen, sein Modell habe solche Anfragen in internen Tests im Allgemeinen mit hoher Quote abgelehnt. [1]

Mindgard zufolge benachrichtigte das Unternehmen Moonshot am 27. Juli per E-Mail und hakte etwa eine Woche später nach. Moonshot hat das Ergebnis seiner internen Überprüfung nicht bekannt gegeben. [1] [2]

Melden Sie sich an, um diesen Artikel positiv oder negativ zu bewerten.

Über diese Diskussion und KI-Fragen

Private Testdiskussion. Kommentare geben die Ansichten von Leserinnen und Lesern wieder und werden noch nicht automatisch auf Fakten geprüft. Nach dem Veröffentlichen kann der Text 60 Sekunden lang bearbeitet werden.

Melden Sie sich mit einem bestätigten Leserkonto an und wählen Sie einen Benutzernamen, um Kommentare zu lesen und sich zu beteiligen.

Die Sortierung gilt für Kommentare der obersten Ebene; Antworten bleiben chronologisch, beginnend mit den ältesten. Neue Kommentare und Likes können die Reihenfolge ändern. Aktualisieren Sie die Seite, um die aktuelle Rangfolge zu sehen.

Kommentare werden geladen …