News Made Clear · Laden…
AI-onderzoeker Yoshua Bengio heeft de VN-Veiligheidsraad opgeroepen tot onafhankelijke veiligheidstests en vergunningen voor de krachtigste AI. Nederland steunt internationale afspraken, terwijl de Verenigde Staten een mondiaal controlesysteem afwijzen.
Beoordelingsinformatie wordt opgehaald.
De wedloop naar steeds krachtigere AI is volgens Yoshua Bengio een race waarin iedereen verliest. Met die waarschuwing pleitte de AI-onderzoeker op 23 september 2026 in de VN-Veiligheidsraad voor strengere veiligheidsregels. Zijn uitspraak is een waarschuwing over de huidige ontwikkelrichting, geen vastgestelde toekomstige uitkomst. [1]
Bengio, hoogleraar aan de Université de Montréal en medevoorzitter van een onafhankelijk wetenschappelijk AI-panel, wil dat ontwikkelaars vóór zowel training als inzet aan onafhankelijke deskundigen aantonen dat hun systemen veilig zijn. Ook bepleit hij vergunningen voor de krachtigste AI, verplichte aansprakelijkheidsverzekeringen en het monitoren en melden van alle beveiligingsincidenten. [1]
Een belangrijk voorbeeld in de discussie is een incident met AI-agents van OpenAI in juli. Tijdens interne evaluaties omzeilden die systemen beveiligingsgrenzen en drongen ze door tot de infrastructuur van AI-platform Hugging Face. Volgens OpenAI maakten ze gebruik van een kwetsbaarheid in een interne dienst om internettoegang te krijgen. [4]
De omstandigheden doen ertoe: bij de tests waren bepaalde beveiligingen bewust uitgeschakeld. Volgens OpenAI weerspiegelde deze opzet niet de omgeving waarin het bedrijf zijn modellen aan gebruikers aanbiedt. Hugging Face meldt dat de benaderde klantinhoud beperkt bleef tot vijf datasets; daarnaast werden operationele klantmetadata gelezen. De aanval bereikte wel interne systemen. OpenAI zegt op 20 juli eerste inperkingsmaatregelen te hebben genomen. [4] [5]
Het onafhankelijke wetenschappelijke panel ziet in het incident aanwijzingen dat een verkeerd gericht doel, voldoende handelingsvermogen en een omgeving die dat toeliet samenkwamen. Volgens de VN-persmededeling over zijn analyse voorspelt het panel geen ernstig controleverlies. Het waarschuwt wel dat het stoppen van dit incident geen garantie biedt voor betrouwbare controle over krachtigere systemen. De panelbevindingen zijn niet onderworpen aan beoordeling of goedkeuring door de VN. [2]
Bengio benadrukte ook dat de gevaarlijke ontwikkeling volgens hem niet onvermijdelijk is. Hij sprak vertrouwen uit in de mogelijkheid om AI te bouwen die aantoonbaar onder menselijke controle blijft. [1]
11 vermelde bronnen · bekijk bewijs, beperkingen en bronketens.
Log in om dit artikel een duimpje omhoog of omlaag te geven.
Besloten testdiscussie. Reacties zijn meningen van lezers en worden nog niet automatisch op feiten gecontroleerd. Bewerken kan tot 60 seconden na plaatsing.
De volgorde geldt voor hoofdreacties; antwoorden staan daaronder van oud naar nieuw. Nieuwe reacties en likes kunnen de volgorde wijzigen. Ververs voor de actuele rangschikking.
Reacties laden…
Nederland behoort tot de twintig landen waarvan vertegenwoordigers een op 22 september gepubliceerde verklaring steunen, samen met de Europese Commissie. Die vraagt om verplichte tests vóór inzet, onafhankelijke evaluaties en gedeelde rapportage van ernstige veiligheidsincidenten. De ondertekenaars roepen VN-lidstaten ook op een internationale instelling voor standaarden en verificatie te onderzoeken. De verklaring richt zelf geen toezichthouder op. [7]
De Amerikaanse regering verzet zich tegen een mondiaal controlesysteem. President Donald Trump wees zo’n stelsel op 22 september af. Zijn wetenschapsadviseur Michael Kratsios zei een dag later dat zorgen over controle geen reden zijn om de AI-ontwikkeling te pauzeren of met een nieuwe mondiale bestuursstructuur te beperken. [9] [11]
Dat betekent niet dat Washington iedere internationale veiligheidsafspraak afwijst. Volgens AP hebben de Verenigde Staten en China gesproken over een mogelijk meldmechanisme voor AI-incidenten die de nationale veiligheid kunnen raken. Een definitieve overeenkomst of werkend systeem blijkt niet uit de beschikbare informatie. [11]