Dois funcionários do Google DeepMind pedem demissão por trabalho com IA militar
As saídas ocorrem após um acordo com o Pentágono que permite o uso dos modelos Gemini do Google em ambientes classificados. Os ex-funcionários questionam se a empresa consegue supervisionar como sua IA é usada.

Carregando informações de revisão.
Dois funcionários do Google DeepMind pediram demissão por causa do trabalho da empresa com IA militar, informa a BBC, chamando novamente a atenção para a supervisão de um acordo que permite o uso de sua tecnologia em ambientes classificados do Pentágono. [1]
A engenheira de pesquisa Sofia Liguori pediu demissão na semana de 21 de outubro; o pesquisador de IA Andreas Kirsch havia saído no início daquele mês. A BBC disse que também conversou com outros funcionários que estavam saindo ou pensando em sair, mas não informou o total de demissões. [1]
Falando em caráter pessoal, Liguori disse que o empenho cada vez maior do Google em levar sistemas de IA a operações militares a fazia “sentir vergonha de trabalhar no Google”. Ela disse que o trabalho da empresa com os militares dos Estados Unidos e de Israel a levou a perder a confiança nos valores éticos que a empresa declara defender. [1]
Kirsch disse à BBC acreditar que a supervisão do Google era insuficiente para implementar IA com segurança em ambientes militares e classificados. Na opinião dele, a empresa parecia ter visibilidade limitada sobre como o Pentágono usava sua tecnologia e nenhum direito de controlar ou vetar esse uso. [1]
Em abril, o Google confirmou à emissora holandesa NOS que seus modelos Gemini poderiam ser usados no ambiente classificado do Pentágono. A BBC informa que o acordo permite “qualquer finalidade governamental legal”, mas diz que os modelos “não devem ser usados para vigilância em massa no próprio país ou para armas autônomas (incluindo a seleção de alvos) sem supervisão e controle humanos adequados”. [2] [1]
Um porta-voz do Google disse à BBC que a empresa segue um processo consistente para avaliar contratos do setor público à luz de suas políticas de uso e princípios de IA. O porta-voz também apontou os canais disponíveis para que funcionários manifestem preocupações e as políticas contra retaliação. Os princípios publicados pelo Google defendem supervisão humana adequada e alinhamento com o direito internacional e os direitos humanos. [1] [3]
Os relatos não esclarecem quais operações militares específicas, se houve alguma, usaram o Gemini, nem até que ponto o Google pode supervisionar seu uso em ambientes classificados.
Entre para avaliar este artigo positivamente ou negativamente.
Da discussão
Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.
A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.
Carregando comentários…