Deux employés de Google DeepMind démissionnent en raison des travaux militaires de l’entreprise sur l’IA

Deux employés de Google DeepMind ont démissionné en raison des travaux de l’entreprise sur l’IA militaire, rapporte la BBC, attirant à nouveau l’attention sur la supervision d’un accord qui autorise l’utilisation de sa technologie dans des environnements classifiés du Pentagone. [1]

L’ingénieure de recherche Sofia Liguori a démissionné au cours de la semaine du 21 octobre ; le chercheur en IA Andreas Kirsch était parti plus tôt dans le mois. La BBC a indiqué avoir également parlé à d’autres employés qui partaient ou envisageaient de le faire, sans préciser le nombre total de démissions. [1]

S’exprimant à titre personnel, Liguori a déclaré qu’elle avait « honte de travailler chez Google » face aux efforts croissants de l’entreprise pour promouvoir l’utilisation de systèmes d’IA dans les opérations militaires. Elle a dit avoir perdu confiance dans les valeurs éthiques affichées par l’entreprise en raison de ses travaux avec les armées américaine et israélienne. [1]

Kirsch a déclaré à la BBC qu’il estimait que la supervision de Google était insuffisante pour déployer l’IA en toute sécurité dans des contextes militaires et classifiés. À ses yeux, l’entreprise semblait avoir une visibilité limitée sur la manière dont le Pentagone utilisait sa technologie, et ne disposait d’aucun droit de contrôle ou de veto sur cet usage. [1]

Google a confirmé en avril au diffuseur néerlandais NOS que ses modèles Gemini pouvaient être utilisés dans l’environnement classifié du Pentagone. La BBC rapporte que l’accord autorise « toute utilisation gouvernementale légale », mais précise que les modèles « ne devraient pas être utilisés pour la surveillance de masse intérieure ni pour les armes autonomes (y compris la sélection des cibles) sans une supervision et un contrôle humains appropriés ». [2] [1]

Un porte-parole de Google a déclaré à la BBC que l’entreprise suivait un processus cohérent pour examiner les contrats du secteur public au regard de ses politiques d’utilisation et de ses principes en matière d’IA. Le porte-parole a également mentionné les voies permettant au personnel de faire part de ses préoccupations ainsi que les politiques interdisant les représailles. Les principes publiés par Google préconisent une supervision humaine appropriée et le respect du droit international et des droits humains.