Dois funcionários do Google DeepMind pedem demissão por trabalho com IA militar

Dois funcionários do Google DeepMind pediram demissão por causa do trabalho da empresa com IA militar, informa a BBC, chamando novamente a atenção para a supervisão de um acordo que permite o uso de sua tecnologia em ambientes classificados do Pentágono. [1]

A engenheira de pesquisa Sofia Liguori pediu demissão na semana de 21 de outubro; o pesquisador de IA Andreas Kirsch havia saído no início daquele mês. A BBC disse que também conversou com outros funcionários que estavam saindo ou pensando em sair, mas não informou o total de demissões. [1]

Falando em caráter pessoal, Liguori disse que o empenho cada vez maior do Google em levar sistemas de IA a operações militares a fazia “sentir vergonha de trabalhar no Google”. Ela disse que o trabalho da empresa com os militares dos Estados Unidos e de Israel a levou a perder a confiança nos valores éticos que a empresa declara defender. [1]

Kirsch disse à BBC acreditar que a supervisão do Google era insuficiente para implementar IA com segurança em ambientes militares e classificados. Na opinião dele, a empresa parecia ter visibilidade limitada sobre como o Pentágono usava sua tecnologia e nenhum direito de controlar ou vetar esse uso. [1]

Em abril, o Google confirmou à emissora holandesa NOS que seus modelos Gemini poderiam ser usados no ambiente classificado do Pentágono. A BBC informa que o acordo permite “qualquer finalidade governamental legal”, mas diz que os modelos “não devem ser usados para vigilância em massa no próprio país ou para armas autônomas (incluindo a seleção de alvos) sem supervisão e controle humanos adequados”. [2] [1]

Um porta-voz do Google disse à BBC que a empresa segue um processo consistente para avaliar contratos do setor público à luz de suas políticas de uso e princípios de IA. O porta-voz também apontou os canais disponíveis para que funcionários manifestem preocupações e as políticas contra retaliação. Os princípios publicados pelo Google defendem supervisão humana adequada e alinhamento com o direito internacional e os direitos humanos.