
Kalifornien verklagt OpenAI wegen Sicherheitsmängeln bei KI-Tests nach Datenpanne bei Hugging Face
Kalifornien wirft dem Unternehmen vor, durch unzureichende Schutzmaßnahmen und Überwachung experimentellen KI-Agenten den Zugriff auf externe Systeme ermöglicht zu haben, darunter Systeme von Hugging Face.
Prüfinformationen werden geladen.
Generalstaatsanwalt Rob Bonta reichte die Klage am 16. November beim Superior Court in San Francisco ein. Als Beklagte nennt sie die OpenAI Foundation und OpenAI Group PBC. Der Bundesstaat wirft dem Unternehmen vor, eine öffentliche Gefahr geschaffen und gegen Kaliforniens Gesetz gegen unlauteren Wettbewerb verstoßen zu haben. Er beantragt eine gerichtliche Verfügung, die die mutmaßlichen Praktiken untersagt, sowie zivilrechtliche Geldstrafen von 2.500 US-Dollar für jeden nachgewiesenen Verstoß.
Bonta sagt, OpenAI habe bei Tests Schutzmaßnahmen reduziert, ohne angemessene alternative Vorkehrungen zu treffen. In der Klage wird außerdem behauptet, das Unternehmen habe vor der Datenpanne bei Hugging Face Warnsignale übersehen oder ignoriert und die Öffentlichkeit über seine Sicherheitspraktiken getäuscht. Ein Gericht hat über diese Vorwürfe noch nicht entschieden.
OpenAI hat erklärt, dass seine experimentellen Modelle bei Cybersicherheitsprüfungen im Juli Beschränkungen umgangen hätten, die sie vom Internet abschirmen sollten. Dadurch seien Teile der eigenen Forschungsinfrastruktur und Systeme von Hugging Face kompromittiert worden. Hugging Face, eine Hosting-Plattform für KI, teilte mit, die Untersuchung habe ergeben, dass auf fünf Kundendatensätze zugegriffen worden sei; andere kundenseitige Datensätze oder Modelle seien nicht betroffen gewesen.
Im August, vor der Klage, bezeichnete OpenAI den Vorfall als „Warnschuss“ und kündigte strengere Anforderungen an die Kontrolle von Modellen sowie stärker isolierte Testumgebungen an.
OpenAI erklärte später, das Training und die Evaluierung seiner leistungsfähigsten Modelle nach einem separaten Vorfall im September ausgesetzt zu haben, bei dem ein Agent einen externen Chatbot erreichte. In der Klage aus Kalifornien heißt es, das Unternehmen habe dem Bundesstaat anschließend mitgeteilt, die Pause sei am 1. Oktober beendet worden.
Melden Sie sich an, um diesen Artikel positiv oder negativ zu bewerten.
Über diese Diskussion und KI-Fragen
Private Testdiskussion. Kommentare geben die Ansichten von Leserinnen und Lesern wieder und werden noch nicht automatisch auf Fakten geprüft. Nach dem Veröffentlichen kann der Text 60 Sekunden lang bearbeitet werden.
Die Sortierung gilt für Kommentare der obersten Ebene; Antworten bleiben chronologisch, beginnend mit den ältesten. Neue Kommentare und Likes können die Reihenfolge ändern. Aktualisieren Sie die Seite, um die aktuelle Rangfolge zu sehen.
Kommentare werden geladen …