Alle nieuwsartikelenNMC RESEARCH

Twee medewerkers van Google DeepMind nemen ontslag vanwege militair AI-werk

Het vertrek volgt op een overeenkomst met het Pentagon waardoor de Gemini-modellen van Google in geheime omgevingen kunnen worden gebruikt. De voormalige medewerkers vragen zich af of het bedrijf toezicht kan houden op het gebruik van zijn AI.

AI-generated editorial illustration based on the published article topic; not a documentary photograph.
Statistieken laden…

Beoordelingsinformatie wordt opgehaald.

Twee medewerkers van Google DeepMind zijn opgestapt vanwege het militaire AI-werk van het bedrijf, meldt de BBC. Daardoor is er opnieuw aandacht voor het toezicht op een overeenkomst die het gebruik van Googles technologie in geheime omgevingen van het Pentagon toestaat. [1]

Onderzoeksingenieur Sofia Liguori nam ontslag in de week van 21 oktober; AI-onderzoeker Andreas Kirsch was eerder die maand al vertrokken. De BBC zei ook met andere medewerkers te hebben gesproken die vertrokken of overwogen te vertrekken, maar noemde geen totaal aantal ontslagen. [1]

Liguori zei op persoonlijke titel dat Googles toenemende inspanningen om AI-systemen bij militaire operaties in te zetten haar het gevoel gaven dat ze zich “schaamde om bij Google te werken”. Ze zei dat het werk van het bedrijf met de Amerikaanse en Israëlische krijgsmacht ertoe had geleid dat ze geen vertrouwen meer had in de verklaarde ethische waarden van Google. [1]

Kirsch vertelde de BBC dat hij vond dat Google onvoldoende toezicht hield om AI veilig in militaire en geheime omgevingen in te zetten. Volgens hem leek het bedrijf maar beperkt zicht te hebben op hoe het Pentagon zijn technologie gebruikte en geen recht te hebben om dat gebruik te sturen of tegen te houden. [1]

Google bevestigde in april aan de Nederlandse omroep NOS dat zijn Gemini-modellen in de geheime omgeving van het Pentagon konden worden gebruikt. Volgens de BBC staat de overeenkomst “elk wettig overheidsdoel” toe, maar “mogen de modellen niet worden gebruikt voor binnenlandse massasurveillance of autonome wapens (waaronder het selecteren van doelen) zonder passend menselijk toezicht en controle”. [2] [1]

Een woordvoerder van Google vertelde de BBC dat het bedrijf overheidscontracten volgens een vaste procedure toetst aan zijn gebruiksbeleid en AI-principes. De woordvoerder wees ook op kanalen waar medewerkers zorgen kunnen melden en op beleid dat vergelding verbiedt. In de gepubliceerde principes van Google staat dat er passend menselijk toezicht moet zijn en dat het gebruik in overeenstemming moet zijn met het internationaal recht en de mensenrechten. [1] [3]

Uit deze verklaringen blijkt niet welke specifieke militaire operaties Gemini eventueel hebben gebruikt, of hoeveel toezicht Google kan uitoefenen op het gebruik ervan in geheime omgevingen.

Log in om dit artikel een duimpje omhoog of omlaag te geven.

Uit de discussie

Besloten testdiscussie. Reacties zijn meningen van lezers en worden nog niet automatisch op feiten gecontroleerd. Bewerken kan tot 60 seconden na plaatsing.

Log in met een bevestigd lezersaccount en stel je gebruikersnaam in om reacties te lezen en deel te nemen.

De volgorde geldt voor hoofdreacties; antwoorden staan daaronder van oud naar nieuw. Nieuwe reacties en likes kunnen de volgorde wijzigen. Ververs voor de actuele rangschikking.

Reacties laden…