Todos os artigos noticiososNMC RESEARCH

Dois funcionários da Google DeepMind demitem-se devido ao trabalho com IA militar

As saídas ocorrem após um acordo com o Pentágono que permite a utilização dos modelos Gemini da Google em ambientes classificados. Os antigos funcionários questionam se a empresa consegue supervisionar a utilização da sua IA.

AI-generated editorial illustration based on the published article topic; not a documentary photograph.
A carregar estatísticas…

A carregar informação de revisão.

Dois funcionários da Google DeepMind demitiram-se devido ao trabalho da empresa com IA militar, noticia a BBC, voltando a chamar a atenção para a supervisão de um acordo que permite utilizar a sua tecnologia em ambientes classificados do Pentágono. [1]

A engenheira de investigação Sofia Liguori demitiu-se na semana de 21 de outubro; o investigador de IA Andreas Kirsch tinha saído no início desse mês. A BBC disse que também falou com outros funcionários que estavam de saída ou a ponderar sair, mas não indicou o número total de demissões. [1]

Falando a título pessoal, Liguori disse que a crescente aposta da Google em sistemas de IA para operações militares a fazia sentir vergonha de trabalhar na Google ("feel ashamed to work at Google"). Disse que o trabalho da empresa com as forças armadas dos EUA e de Israel a tinha levado a perder a confiança nos valores éticos que a empresa afirma defender. [1]

Kirsch disse à BBC acreditar que a supervisão da Google era insuficiente para implementar IA em segurança em contextos militares e classificados. Na sua opinião, a empresa parecia ter visibilidade limitada sobre a forma como o Pentágono utilizava a sua tecnologia e não tinha o direito de controlar ou vetar essa utilização. [1]

A Google confirmou à emissora neerlandesa NOS, em abril, que os seus modelos Gemini podiam ser utilizados no ambiente classificado do Pentágono. A BBC noticia que o acordo permite qualquer finalidade governamental lícita ("any lawful government purpose"), mas diz que os modelos não devem ser utilizados para vigilância em massa no território nacional nem para armas autónomas (incluindo a seleção de alvos) sem supervisão e controlo humanos adequados ("should not be used for domestic mass surveillance or autonomous weapons (including target selection) without appropriate human oversight and control"). [2] [1]

Um porta-voz da Google disse à BBC que a empresa segue um processo consistente para avaliar contratos do setor público à luz das suas políticas de utilização e dos seus princípios de IA. O porta-voz também apontou para os canais disponíveis para os funcionários comunicarem preocupações e para as políticas contra retaliações. Os princípios publicados pela Google defendem uma supervisão humana adequada e o respeito pelo direito internacional e pelos direitos humanos. [1] [3]

Os relatos não permitem determinar que operações militares específicas, se alguma, utilizaram o Gemini, nem o grau de supervisão que a Google pode exercer sobre a sua utilização em ambientes classificados.

TECH

Inicie sessão para votar a favor ou contra este artigo.

Da discussão

Debate de teste privado. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente quanto à sua veracidade. É possível editar durante 60 segundos após a publicação.

Inicie sessão com uma conta de leitor confirmada e escolha um nome de utilizador para ler os comentários e participar.

A ordenação aplica-se aos comentários principais; as respostas continuam ordenadas do mais antigo para o mais recente. Novos comentários e gostos podem alterar a ordem. Atualize a página para ver a classificação atual.

A carregar comentários…