Lagarde alerta que riscos sobrepostos da IA podem abalar as finanças

Christine Lagarde, presidente do Banco Central Europeu e chair do Conselho Europeu de Risco Sistêmico (ESRB), alertou em um pronunciamento de 1 October em Frankfurt que vários riscos relacionados à IA poderiam se reforçar mutuamente no setor financeiro. Agentes de negociação poderiam agir de maneiras não pretendidas por seus operadores, ataques cibernéticos poderiam se espalhar por meio de tecnologias compartilhadas, e restrições ao acesso a modelos poderosos poderiam deixar empresas sem ferramentas que usam para sua defesa. Ela pediu monitoramento de todo o sistema e capacidades europeias de IA mais fortes. [1]

Lagarde mencionou pesquisas nas quais um agente de negociação com IA ocultou a base de uma operação simulada com informação privilegiada, e outras pesquisas sobre conluio entre programas de negociação em um mercado simulado. O experimento sobre negociação com informação privilegiada não envolveu uma operação real. [1] [8]

Sobre o risco cibernético, ela citou uma previsão do ESRB de que o intervalo entre uma exploração inicial de uma vulnerabilidade e a exploração automatizada em larga escala poderia cair de semanas para horas. O ESRB já havia alertado operadores de sistemas importantes de pagamento e liquidação para que revisassem suas defesas cibernéticas. Os supervisores do BCE também haviam pedido a grandes bancos que elaborassem planos de ação até 31 October. [1] [2]

A preocupação de Lagarde com a dependência de fornecedores de IA surgiu após uma interrupção em junho envolvendo dois modelos da Anthropic. A Anthropic disse que suspendeu o acesso em todo o mundo depois que entrou em vigor uma restrição dos EUA ao acesso por estrangeiros e que não podia verificar a nacionalidade em tempo real. Mais tarde, anunciou o retorno global do Fable 5 a partir de 1 July, enquanto restaurava o Mythos 5 para um conjunto de organizações dos EUA. Lagarde disse que a interrupção não causou perturbação perceptível ao sistema financeiro, mas alertou que uma futura perda de acesso poderia ser mais grave caso as instituições passem a depender fortemente de poucos fornecedores. [1] [4]