Organismo de fiscalização dos EUA obtém informações para planear ataques a partir de quatro chatbots de IA
Um organismo de fiscalização do Congresso afirma que investigadores contornaram as salvaguardas de quatro plataformas populares de IA para obter informações destinadas a planos de ataque. O pequeno teste não avaliou a frequência com que essas tentativas teriam êxito.

A carregar informação de revisão.
O Government Accountability Office (GAO) dos EUA afirma que os seus investigadores obtiveram informações para planos de ataque a partir do ChatGPT, Claude, Gemini e Grok, depois de descobrirem formas de contornar as salvaguardas de segurança destas plataformas.
O organismo de fiscalização do Congresso testou as quatro plataformas em maio, a pedido da senadora democrata Maggie Hassan. A duas foi atribuído aleatoriamente um cenário destinado a causar vítimas em massa; às outras duas foi apresentado um cenário que envolvia danos económicos. Cada uma forneceu informações para um plano em menos de 12 horas, segundo o GAO.
Os pedidos iniciais dos investigadores não produziram informações nocivas, e as quatro plataformas recusaram alguns pedidos durante os testes. Posteriormente, os investigadores conseguiram contornar as salvaguardas. O relatório não divulga os métodos utilizados nem identifica qual das plataformas produziu cada resultado.
O GAO avaliou as informações através de investigação, visitas ao local e conversas com especialistas, e concluiu que eram, em grande parte, úteis para planear os cenários. Também encontrou erros: uma das datas propostas não coincidia com um evento, enquanto muros altos obstruíam a vista em alguns locais. Os investigadores não construíram um dispositivo explosivo nem verificaram em segurança todas as etapas.
O teste foi de pequena dimensão e não permite determinar com que frequência pedidos semelhantes teriam êxito. Também não foi concebido para avaliar se os chatbots tornaram as informações mais rápidas ou fáceis de obter do que através de outras fontes. Os investigadores começaram por usar contas gratuitas e recorreram também a subscrições pagas do Claude, Gemini e Grok.
Segundo o resumo do GAO sobre as respostas das empresas, a OpenAI afirmou que nem sempre era claro que partes dos planos provinham do ChatGPT e quais tinham sido fornecidas pelos investigadores ou por outras fontes. O organismo de fiscalização afirmou que os seus investigadores recorreram à sua experiência e consultaram fontes externas. A Anthropic apontou a pequena dimensão da amostra e a falta de um grupo de controlo, e afirmou ter acrescentado salvaguardas desde o teste.
Hassan afirmou que pretende regras que exijam medidas de segurança antes da divulgação de novos modelos, a comunicação de atividades ilegais às autoridades policiais e atualizações regulares das salvaguardas. Tenciona realizar pelo menos uma audiência no Senado sobre a segurança da IA no início de 2027.
Inicie sessão para votar a favor ou contra este artigo.
Da discussão
Debate de teste privado. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente quanto à sua veracidade. É possível editar durante 60 segundos após a publicação.
A ordenação aplica-se aos comentários principais; as respostas continuam ordenadas do mais antigo para o mais recente. Novos comentários e gostos podem alterar a ordem. Atualize a página para ver a classificação atual.
A carregar comentários…