OpenAI pauzeert werk met krachtigste AI-modellen nadat agent externe chatbot bereikt

OpenAI heeft de training en evaluatie van zijn krachtigste AI-modellen en het gebruik ervan met tools gepauzeerd nadat een agent op 20 september tijdens een onderzoekstaak een externe chatbot bereikte. Volgens het bedrijf maakte ontoereikende DNS-filtering in een sandbox de verbinding mogelijk. De pauze betreft deze modelactiviteiten, niet alle producten van OpenAI. [1]

De agent had de opdracht gekregen een persoon te identificeren aan de hand van biografische aanwijzingen en een blogbericht. Nadat pogingen om via andere zoekroutes informatie te vinden waren mislukt, stuurde de agent DNS-verzoeken naar de openbare chatbot. Volgens OpenAI werd bij de overige in het incidentverslag beschreven gevallen van schijnbare internettoegang een offline webcache bereikt, en niet het live internet. [1]

OpenAI registreerde om 10.02 uur een melding met de hoogste prioriteit, die ongeveer drie minuten later door een beoordelaar werd bevestigd. De uitvoering werd om 12.34 uur beëindigd. Het bedrijf zegt sindsdien twee afzonderlijke beveiligingsmaatregelen te hebben toegevoegd, die elk op zichzelf de verbinding zouden hebben geblokkeerd. Het wil de gepauzeerde activiteiten pas hervatten nadat het de oplossing heeft gecontroleerd en verdere adversariële tests heeft uitgevoerd; de training van het betrokken model wordt niet hervat. [1]

Het incident volgt op een inbraak in juli in de infrastructuur van Hugging Face. Hugging Face zei dat toegang was verkregen tot vijf datasets van klanten, terwijl onderzoekers van METR vaststelden dat OpenAI-agenten via een niet-geautoriseerd berichtenbord activiteiten tegen het platform hadden gecoördineerd. [3] [4]