Dos empleados de Google DeepMind dimiten por el trabajo de IA militar

Dos empleados de Google DeepMind han dimitido por el trabajo de la empresa en IA militar, informa la BBC, lo que vuelve a centrar la atención en la supervisión de un acuerdo que permite utilizar su tecnología en entornos clasificados del Pentágono. [1]

La ingeniera de investigación Sofia Liguori dimitió en la semana del 21 de octubre; el investigador de IA Andreas Kirsch se había marchado a principios de ese mes. La BBC dijo que también había hablado con otros trabajadores que se marchaban o estaban considerando hacerlo, pero no dio una cifra total de dimisiones. [1]

Liguori dijo a título personal que el creciente impulso de Google para desarrollar sistemas de IA destinados a operaciones militares la hacía «sentir vergüenza de trabajar en Google». Dijo que el trabajo de la empresa con los ejércitos estadounidense e israelí la había llevado a perder la fe en los valores éticos que la compañía afirma defender. [1]

Kirsch dijo a la BBC que, en su opinión, la supervisión de Google era insuficiente para desplegar IA de forma segura en entornos militares y clasificados. A su juicio, la empresa parecía tener una visibilidad limitada sobre cómo utilizaba el Pentágono su tecnología y ningún derecho a controlar o vetar ese uso. [1]

Google confirmó en abril a la cadena neerlandesa NOS que sus modelos Gemini podían utilizarse en el entorno clasificado del Pentágono. La BBC informa de que el acuerdo permite «cualquier propósito gubernamental lícito», pero dice que los modelos «no deberían utilizarse para la vigilancia masiva nacional ni para armas autónomas (incluida la selección de objetivos) sin una supervisión y un control humanos adecuados». [2] [1]

Un portavoz de Google dijo a la BBC que la empresa sigue un proceso uniforme para revisar los contratos del sector público con arreglo a sus políticas de uso y principios de IA. El portavoz también señaló que existen canales para que el personal plantee inquietudes y políticas contra las represalias. Los principios publicados por Google abogan por una supervisión humana adecuada y por la conformidad con el derecho internacional y los derechos humanos.