Dois funcionários da Google DeepMind demitem-se devido ao trabalho com IA militar

Dois funcionários da Google DeepMind demitiram-se devido ao trabalho da empresa com IA militar, noticia a BBC, voltando a chamar a atenção para a supervisão de um acordo que permite utilizar a sua tecnologia em ambientes classificados do Pentágono. [1]

A engenheira de investigação Sofia Liguori demitiu-se na semana de 21 de outubro; o investigador de IA Andreas Kirsch tinha saído no início desse mês. A BBC disse que também falou com outros funcionários que estavam de saída ou a ponderar sair, mas não indicou o número total de demissões. [1]

Falando a título pessoal, Liguori disse que a crescente aposta da Google em sistemas de IA para operações militares a fazia sentir vergonha de trabalhar na Google ("feel ashamed to work at Google"). Disse que o trabalho da empresa com as forças armadas dos EUA e de Israel a tinha levado a perder a confiança nos valores éticos que a empresa afirma defender. [1]

Kirsch disse à BBC acreditar que a supervisão da Google era insuficiente para implementar IA em segurança em contextos militares e classificados. Na sua opinião, a empresa parecia ter visibilidade limitada sobre a forma como o Pentágono utilizava a sua tecnologia e não tinha o direito de controlar ou vetar essa utilização. [1]

A Google confirmou à emissora neerlandesa NOS, em abril, que os seus modelos Gemini podiam ser utilizados no ambiente classificado do Pentágono. A BBC noticia que o acordo permite qualquer finalidade governamental lícita ("any lawful government purpose"), mas diz que os modelos não devem ser utilizados para vigilância em massa no território nacional nem para armas autónomas (incluindo a seleção de alvos) sem supervisão e controlo humanos adequados ("should not be used for domestic mass surveillance or autonomous weapons (including target selection) without appropriate human oversight and control"). [2] [1]

Um porta-voz da Google disse à BBC que a empresa segue um processo consistente para avaliar contratos do setor público à luz das suas políticas de utilização e dos seus princípios de IA. O porta-voz também apontou para os canais disponíveis para os funcionários comunicarem preocupações e para as políticas contra retaliações. Os princípios publicados pela Google defendem uma supervisão humana adequada e o respeito pelo direito internacional e pelos direitos humanos.