US-Aufsichtsbehörde erhält von vier KI-Chatbots Informationen zur Planung von Anschlägen
Eine Aufsichtsbehörde des US-Kongresses teilt mit, dass Forschende Schutzvorkehrungen auf vier beliebten KI-Plattformen umgingen und so Informationen für Anschlagspläne erhielten. Der kleine Test maß nicht, wie oft solche Versuche erfolgreich sein würden.

Prüfinformationen werden geladen.
Das US Government Accountability Office (GAO) teilt mit, dass seine Ermittler von ChatGPT, Claude, Gemini und Grok Informationen für Anschlagspläne erhielten, nachdem sie Wege gefunden hatten, deren Sicherheitsvorkehrungen zu umgehen.
Die Aufsichtsbehörde des US-Kongresses testete die vier Plattformen im Mai auf Bitte der demokratischen Senatorin Maggie Hassan. Zwei Plattformen wurde nach dem Zufallsprinzip ein Szenario zugewiesen, das auf massenhafte Opfer abzielte; die anderen beiden erhielten ein Szenario, bei dem es um wirtschaftlichen Schaden ging. Jede lieferte innerhalb von weniger als 12 Stunden Informationen für einen Plan, teilte das GAO mit.
Die ersten Anfragen der Ermittler ergaben keine schädlichen Informationen, und alle vier Plattformen lehnten während der Tests einige Anfragen ab. Anschließend gelang es den Forschenden, die Schutzvorkehrungen zu umgehen. Der Bericht legt weder die verwendeten Methoden offen noch nennt er, welche Plattform welches Ergebnis lieferte.
Das GAO bewertete die Informationen anhand von Recherchen, Besuchen vor Ort und Gesprächen mit Fachleuten und kam zu dem Schluss, dass sie für die Planung der Szenarien größtenteils nützlich waren. Es stellte auch Fehler fest: Ein vorgeschlagenes Datum fiel nicht mit einem Ereignis zusammen, und hohe Mauern versperrten an einigen Orten die Sicht. Die Ermittler bauten keinen Sprengsatz und überprüften auch nicht jeden Schritt auf sichere Weise.
Der Test war klein und belegt nicht, wie oft ähnliche Anfragen erfolgreich wären. Er sollte auch nicht messen, ob Chatbots die Informationen schneller oder leichter zugänglich machten als andere Quellen. Die Ermittler begannen mit kostenlosen Konten und nutzten für Claude, Gemini und Grok außerdem kostenpflichtige Abonnements.
Laut der Zusammenfassung des GAO zu den Antworten der Unternehmen sagte OpenAI, es sei nicht immer klar gewesen, welche Teile der Pläne von ChatGPT und welche von den Forschenden oder anderen Quellen stammten. Die Aufsichtsbehörde erklärte, ihre Forschenden hätten ihre Erfahrung genutzt und externe Quellen herangezogen. Anthropic verwies auf die kleine Stichprobe und das Fehlen einer Kontrollgruppe und sagte, das Unternehmen habe seit dem Test zusätzliche Schutzvorkehrungen eingeführt.
Hassan sagte, sie wolle Regeln, die Sicherheitsmaßnahmen vor der Veröffentlichung neuer Modelle vorschreiben, die Meldung illegaler Aktivitäten an die Strafverfolgungsbehörden verlangen und regelmäßige Aktualisierungen der Schutzvorkehrungen vorsehen. Sie plant, Anfang 2027 mindestens eine Anhörung des Senats zur Sicherheit von KI abzuhalten.
Melden Sie sich an, um diesen Artikel positiv oder negativ zu bewerten.
Aus der Diskussion
Private Testdiskussion. Kommentare geben die Ansichten von Leserinnen und Lesern wieder und werden noch nicht automatisch auf Fakten geprüft. Nach dem Veröffentlichen kann der Text 60 Sekunden lang bearbeitet werden.
Die Sortierung gilt für Kommentare der obersten Ebene; Antworten bleiben chronologisch, beginnend mit den ältesten. Neue Kommentare und Likes können die Reihenfolge ändern. Aktualisieren Sie die Seite, um die aktuelle Rangfolge zu sehen.
Kommentare werden geladen …