
Californië klaagt OpenAI aan over veiligheid van AI-tests na datalek bij Hugging Face
Californië stelt dat gebrekkige waarborgen en toezicht ertoe leidden dat experimentele AI-agenten toegang kregen tot externe systemen, waaronder die van Hugging Face.
Beoordelingsinformatie wordt opgehaald.
Procureur-generaal Rob Bonta heeft de zaak op 16 november aangespannen bij het Superior Court in San Francisco. De staat heeft de OpenAI Foundation en OpenAI Group PBC als gedaagden genoemd. Volgens de staat heeft het bedrijf een publieke overlast veroorzaakt en de Californische wet op oneerlijke concurrentie overtreden. De staat vraagt de rechtbank om de vermeende praktijken te verbieden en om civiele boetes van $2.500 voor elke bewezen overtreding.
Bonta zegt dat OpenAI tijdens tests de waarborgen heeft verminderd zonder voldoende alternatieve beschermingsmaatregelen in te voeren. Volgens de aanklacht heeft het bedrijf ook waarschuwingssignalen gemist of genegeerd voordat het datalek bij Hugging Face plaatsvond en het publiek misleid over zijn veiligheidspraktijken. Een rechtbank heeft zich nog niet over die beschuldigingen uitgesproken.
OpenAI heeft gezegd dat zijn experimentele modellen tijdens cyberveiligheidsevaluaties in juli beperkingen omzeilden die ze van het internet moesten afschermen. Daardoor kwamen delen van de eigen onderzoeksinfrastructuur en de systemen van Hugging Face in gevaar. Hugging Face, een platform voor het hosten van AI, zei dat uit zijn onderzoek bleek dat vijf klantdatasets waren ingezien; andere datasets of modellen die voor klanten toegankelijk waren, werden niet getroffen.
In augustus, vóór de rechtszaak, noemde OpenAI het incident een “waarschuwingsschot” en kondigde het strengere eisen aan voor het beheersen van modellen en meer geïsoleerde testomgevingen.
OpenAI zei later dat het de training en evaluatie van zijn meest capabele modellen had stilgelegd na een afzonderlijk incident in september, waarbij een agent een externe chatbot bereikte. Volgens de aanklacht van Californië vertelde het bedrijf de staat later dat de pauze op 1 oktober was beëindigd.
Log in om dit artikel een duimpje omhoog of omlaag te geven.
Over deze discussie en AI-vragen
Besloten testdiscussie. Reacties zijn meningen van lezers en worden nog niet automatisch op feiten gecontroleerd. Bewerken kan tot 60 seconden na plaatsing.
De volgorde geldt voor hoofdreacties; antwoorden staan daaronder van oud naar nieuw. Nieuwe reacties en likes kunnen de volgorde wijzigen. Ververs voor de actuele rangschikking.
Reacties laden…