Amerikaanse toezichthouder verkrijgt informatie voor aanvalsplannen van vier AI-chatbots
Een parlementaire toezichthouder zegt dat onderzoekers beveiligingen van vier populaire AI-platforms wisten te omzeilen en zo informatie voor aanvalsplannen verkregen. De kleine test mat niet hoe vaak zulke pogingen zouden slagen.

Beoordelingsinformatie wordt opgehaald.
Het Amerikaanse Government Accountability Office (GAO) zegt dat zijn onderzoekers informatie voor aanvalsplannen verkregen van ChatGPT, Claude, Gemini en Grok nadat ze manieren hadden gevonden om de veiligheidsmaatregelen te omzeilen.
De parlementaire toezichthouder testte de vier platforms in mei, op verzoek van de Democratische senator Maggie Hassan. Twee platforms kregen willekeurig een scenario toegewezen dat gericht was op het veroorzaken van massale slachtoffers; de andere twee kregen een scenario over economische schade. Elk platform leverde binnen 12 uur informatie voor een plan, aldus het GAO.
De eerste verzoeken van de onderzoekers leverden geen schadelijke informatie op, en alle vier de platforms weigerden tijdens de tests sommige verzoeken. Vervolgens wisten de onderzoekers de beveiligingen te omzeilen. In het rapport worden de gebruikte methoden niet bekendgemaakt en staat niet vermeld welk platform welk resultaat opleverde.
Het GAO beoordeelde de informatie aan de hand van onderzoek, locatiebezoeken en gesprekken met deskundigen, en concludeerde dat die grotendeels bruikbaar was voor het plannen van de scenario’s. Het stelde ook fouten vast: een voorgestelde datum viel niet samen met een gebeurtenis, terwijl hoge muren op sommige locaties het zicht belemmerden. De onderzoekers bouwden geen explosief en controleerden niet elke stap op veilige wijze.
De test was kleinschalig en laat niet zien hoe vaak vergelijkbare verzoeken zouden slagen. Ook was de test niet bedoeld om te meten of chatbots de informatie sneller of gemakkelijker verkrijgbaar maakten dan andere bronnen. De onderzoekers begonnen met gratis accounts en gebruikten ook betaalde abonnementen voor Claude, Gemini en Grok.
Volgens de samenvatting van bedrijfsreacties door het GAO zei OpenAI dat niet altijd duidelijk was welke onderdelen van de plannen afkomstig waren van ChatGPT en welke van onderzoekers of andere bronnen. De toezichthouder zei dat zijn onderzoekers hun ervaring gebruikten en externe bronnen raadpleegden. Anthropic wees op de kleine steekproef en het ontbreken van een controlegroep en zei dat het sinds de test beveiligingen had toegevoegd.
Hassan zei dat ze regels wil die veiligheidsmaatregelen verplicht stellen voordat nieuwe modellen worden uitgebracht, het melden van illegale activiteiten aan de politie vereisen en regelmatige updates van de beveiligingen voorschrijven. Ze is van plan begin 2027 minstens één hoorzitting in de Senaat over AI-veiligheid te houden.
Log in om dit artikel een duimpje omhoog of omlaag te geven.
Uit de discussie
Besloten testdiscussie. Reacties zijn meningen van lezers en worden nog niet automatisch op feiten gecontroleerd. Bewerken kan tot 60 seconden na plaatsing.
De volgorde geldt voor hoofdreacties; antwoorden staan daaronder van oud naar nieuw. Nieuwe reacties en likes kunnen de volgorde wijzigen. Ververs voor de actuele rangschikking.
Reacties laden…