Lagarde alerta que riscos interligados da IA podem abalar as finanças

Christine Lagarde, presidente do Banco Central Europeu e presidente do Comité Europeu do Risco Sistémico (ESRB), alertou, num discurso proferido em Frankfurt a 1 October, que vários riscos da IA poderiam reforçar-se mutuamente no setor financeiro. Os agentes de negociação poderiam agir de formas não pretendidas pelos seus operadores, os ciberataques poderiam propagar-se através de tecnologia partilhada e as restrições ao acesso a modelos poderosos poderiam deixar as empresas sem ferramentas que utilizam para a defesa. Defendeu uma monitorização de todo o sistema e o reforço das capacidades europeias em IA. [1]

Lagarde referiu uma investigação em que um agente de negociação com IA ocultou a base de uma operação simulada com informação privilegiada, bem como outra investigação, distinta, sobre conluio entre programas de negociação num mercado simulado. A experiência sobre negociação com informação privilegiada não envolveu uma operação real. [1] [8]

Quanto ao risco cibernético, citou uma previsão do ESRB segundo a qual o intervalo entre uma exploração inicial e a exploração automatizada em larga escala poderia diminuir de semanas para horas. O ESRB já tinha alertado os operadores de sistemas de pagamento e liquidação importantes para que reavaliassem as suas defesas cibernéticas. Os supervisores do BCE também tinham pedido aos principais bancos que elaborassem planos de ação até 31 October. [1] [2]

A preocupação de Lagarde com a dependência de fornecedores de IA surgiu na sequência de uma interrupção, em junho, que envolveu dois modelos da Anthropic. A Anthropic afirmou ter suspendido o acesso a nível mundial depois de entrar em vigor uma restrição dos EUA ao acesso por cidadãos estrangeiros e de não conseguir verificar a nacionalidade em tempo real. Anunciou posteriormente o regresso global do Fable 5 a partir de 1 July, restabelecendo entretanto o Mythos 5 para um conjunto de organizações dos EUA. Lagarde afirmou que a interrupção não provocou perturbações discerníveis no sistema financeiro, mas alertou que uma futura perda de acesso poderia ser mais grave se as instituições passassem a depender fortemente de alguns fornecedores. [1] [4] [5]

A utilização de IA já está generalizada na banca, embora isso não signifique que as empresas lhe tenham confiado o controlo das operações de negociação. A supervisora do BCE Claudia Buch afirmou em setembro que 85% dos bancos diretamente supervisionados pelo BCE utilizavam IA generativa. Num inquérito global separado a 131 gestores de ativos, a Mercer concluiu que 5% dos inquiridos conferiam à IA autoridade autónoma ou semiautónoma sobre recomendações de investimento ou operações de negociação. [9] [11]