Twee medewerkers van Google DeepMind nemen ontslag vanwege militair AI-werk

Twee medewerkers van Google DeepMind zijn opgestapt vanwege het militaire AI-werk van het bedrijf, meldt de BBC. Daardoor is er opnieuw aandacht voor het toezicht op een overeenkomst die het gebruik van Googles technologie in geheime omgevingen van het Pentagon toestaat. [1]

Onderzoeksingenieur Sofia Liguori nam ontslag in de week van 21 oktober; AI-onderzoeker Andreas Kirsch was eerder die maand al vertrokken. De BBC zei ook met andere medewerkers te hebben gesproken die vertrokken of overwogen te vertrekken, maar noemde geen totaal aantal ontslagen. [1]

Liguori zei op persoonlijke titel dat Googles toenemende inspanningen om AI-systemen bij militaire operaties in te zetten haar het gevoel gaven dat ze zich “schaamde om bij Google te werken”. Ze zei dat het werk van het bedrijf met de Amerikaanse en Israëlische krijgsmacht ertoe had geleid dat ze geen vertrouwen meer had in de verklaarde ethische waarden van Google. [1]

Kirsch vertelde de BBC dat hij vond dat Google onvoldoende toezicht hield om AI veilig in militaire en geheime omgevingen in te zetten. Volgens hem leek het bedrijf maar beperkt zicht te hebben op hoe het Pentagon zijn technologie gebruikte en geen recht te hebben om dat gebruik te sturen of tegen te houden. [1]

Google bevestigde in april aan de Nederlandse omroep NOS dat zijn Gemini-modellen in de geheime omgeving van het Pentagon konden worden gebruikt. Volgens de BBC staat de overeenkomst “elk wettig overheidsdoel” toe, maar “mogen de modellen niet worden gebruikt voor binnenlandse massasurveillance of autonome wapens (waaronder het selecteren van doelen) zonder passend menselijk toezicht en controle”. [2] [1]

Een woordvoerder van Google vertelde de BBC dat het bedrijf overheidscontracten volgens een vaste procedure toetst aan zijn gebruiksbeleid en AI-principes. De woordvoerder wees ook op kanalen waar medewerkers zorgen kunnen melden en op beleid dat vergelding verbiedt. In de gepubliceerde principes van Google staat dat er passend menselijk toezicht moet zijn en dat het gebruik in overeenstemming moet zijn met het internationaal recht en de mensenrechten.