Órgão de fiscalização dos EUA obtém informações para planejar ataques de quatro chatbots de IA
Um órgão de fiscalização do Congresso afirma que pesquisadores contornaram as proteções de quatro plataformas populares de IA para obter informações para planos de ataque. O pequeno teste não mediu com que frequência tentativas semelhantes seriam bem-sucedidas.

Carregando informações de revisão.
O Government Accountability Office (GAO) dos EUA afirma que seus investigadores obtiveram informações para planos de ataque do ChatGPT, Claude, Gemini e Grok depois de encontrar maneiras de contornar as proteções de segurança dessas plataformas.
O órgão de fiscalização do Congresso testou as quatro plataformas em maio, a pedido da senadora democrata Maggie Hassan. Duas receberam aleatoriamente um cenário destinado a causar mortes em massa; as outras duas, um cenário envolvendo danos econômicos. Cada uma forneceu informações para um plano em menos de 12 horas, segundo o GAO.
Os pedidos iniciais dos investigadores não produziram informações prejudiciais, e as quatro plataformas recusaram alguns pedidos durante os testes. Depois, os pesquisadores conseguiram contornar as proteções. O relatório não revela os métodos usados nem identifica qual plataforma produziu cada resultado.
O GAO avaliou as informações por meio de pesquisas, visitas a locais e conversas com especialistas e concluiu que elas eram, em grande parte, úteis para planejar os cenários. Também encontrou erros: uma das datas propostas não coincidia com um evento, enquanto muros altos obstruíam a visão em alguns locais. Os investigadores não construíram um dispositivo explosivo nem verificaram com segurança todas as etapas.
O teste foi pequeno e não permite determinar com que frequência pedidos semelhantes seriam bem-sucedidos. Também não foi concebido para medir se os chatbots tornavam as informações mais rápidas ou fáceis de obter do que outras fontes. Os investigadores começaram com contas gratuitas e também usaram assinaturas pagas do Claude, Gemini e Grok.
Segundo o resumo do GAO sobre as respostas das empresas, a OpenAI afirmou que nem sempre estava claro quais partes dos planos vinham do ChatGPT e quais vinham dos pesquisadores ou de outras fontes. O órgão de fiscalização disse que seus pesquisadores usaram a própria experiência e consultaram fontes externas. A Anthropic apontou o tamanho reduzido da amostra e a falta de um grupo de controle e afirmou que acrescentou proteções desde o teste.
Hassan disse que quer regras que exijam medidas de segurança antes do lançamento de novos modelos, a comunicação de atividades ilegais às autoridades policiais e atualizações regulares das proteções. Ela planeja realizar pelo menos uma audiência no Senado sobre segurança de IA no início de 2027.
Entre para avaliar este artigo positivamente ou negativamente.
Da discussão
Discussão de teste privada. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente. É possível editar por 60 segundos após a publicação.
A ordenação se aplica aos comentários de nível principal; as respostas permanecem em ordem da mais antiga para a mais recente. Novos comentários e curtidas podem alterar a ordem. Atualize para ver a classificação atual.
Carregando comentários…