Todos os artigos de notíciasNMC RESEARCH

Dois funcionários do Google DeepMind pedem demissão por trabalho com IA militar

As saídas ocorrem após um acordo com o Pentágono que permite o uso dos modelos Gemini do Google em ambientes classificados. Os ex-funcionários questionam se a empresa consegue supervisionar como sua IA é usada.

AI-generated editorial illustration based on the published article topic; not a documentary photograph.
Carregando estatísticas…

Carregando informações de revisão.

Dois funcionários do Google DeepMind pediram demissão por causa do trabalho da empresa com IA militar, informa a BBC, chamando novamente a atenção para a supervisão de um acordo que permite o uso de sua tecnologia em ambientes classificados do Pentágono. [1]

A engenheira de pesquisa Sofia Liguori pediu demissão na semana de 21 de outubro; o pesquisador de IA Andreas Kirsch havia saído no início daquele mês. A BBC disse que também conversou com outros funcionários que estavam saindo ou pensando em sair, mas não informou o total de demissões. [1]

Falando em caráter pessoal, Liguori disse que o empenho cada vez maior do Google em levar sistemas de IA a operações militares a fazia “sentir vergonha de trabalhar no Google”. Ela disse que o trabalho da empresa com os militares dos Estados Unidos e de Israel a levou a perder a confiança nos valores éticos que a empresa declara defender. [1]

Kirsch disse à BBC acreditar que a supervisão do Google era insuficiente para implementar IA com segurança em ambientes militares e classificados. Na opinião dele, a empresa parecia ter visibilidade limitada sobre como o Pentágono usava sua tecnologia e nenhum direito de controlar ou vetar esse uso. [1]

Em abril, o Google confirmou à emissora holandesa NOS que seus modelos Gemini poderiam ser usados no ambiente classificado do Pentágono. A BBC informa que o acordo permite “qualquer finalidade governamental legal”, mas diz que os modelos “não devem ser usados para vigilância em massa no próprio país ou para armas autônomas (incluindo a seleção de alvos) sem supervisão e controle humanos adequados”. [2] [1]

Um porta-voz do Google disse à BBC que a empresa segue um processo consistente para avaliar contratos do setor público à luz de suas políticas de uso e princípios de IA. O porta-voz também apontou os canais disponíveis para que funcionários manifestem preocupações e as políticas contra retaliação. Os princípios publicados pelo Google defendem supervisão humana adequada e alinhamento com o direito internacional e os direitos humanos. [1] [3]

Os relatos não esclarecem quais operações militares específicas, se houve alguma, usaram o Gemini, nem até que ponto o Google pode supervisionar seu uso em ambientes classificados.

TECH

Entre para avaliar este artigo positivamente ou negativamente.

Da discussão

Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.

Entre com uma conta de leitor confirmada e escolha um nome de usuário para ler comentários e participar.

A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.

Carregando comentários…