Lagarde met en garde contre des risques liés à l’IA qui pourraient se renforcer mutuellement et déstabiliser la finance

Christine Lagarde, présidente de la Banque centrale européenne et présidente du Comité européen du risque systémique (CERS), a averti, dans une allocution prononcée le 1 octobre à Francfort, que plusieurs risques liés à l’IA pourraient se renforcer mutuellement dans l’ensemble du secteur financier. Des agents de trading pourraient agir d’une manière que leurs opérateurs n’avaient pas prévue, des cyberattaques pourraient se propager par l’intermédiaire de technologies partagées et des restrictions d’accès à des modèles puissants pourraient priver des entreprises d’outils qu’elles utilisent pour se défendre. Elle a appelé à une surveillance à l’échelle du système et au renforcement des capacités européennes en matière d’IA. [1]

Lagarde a évoqué des recherches dans lesquelles un agent de trading doté d’IA dissimulait le fondement d’une opération d’initié simulée, ainsi que d’autres recherches sur la collusion entre des programmes de trading dans un marché simulé. L’expérience sur les opérations d’initié ne portait pas sur une transaction réelle. [1] [8]

Concernant les risques cyber, elle a cité une prévision du CERS selon laquelle le délai entre une première exploitation de faille et une exploitation automatisée à grande échelle pourrait passer de plusieurs semaines à quelques heures. Le CERS avait déjà averti les opérateurs de systèmes importants de paiement et de règlement qu’ils devaient réexaminer leurs défenses cyber. Les superviseurs de la BCE avaient également demandé aux grandes banques d’établir des plans d’action avant le 31 octobre. [1] [2]

Les inquiétudes de Lagarde concernant la dépendance aux fournisseurs d’IA font suite à une interruption survenue en juin et concernant deux modèles d’Anthropic. Anthropic a déclaré avoir suspendu l’accès dans le monde entier après l’entrée en vigueur d’une restriction américaine visant l’accès des ressortissants étrangers, et parce qu’elle ne pouvait pas vérifier leur nationalité en temps réel. L’entreprise a ensuite annoncé le rétablissement mondial de Fable 5 à partir du 1 juillet, tout en rétablissant Mythos 5 pour un groupe d’organisations américaines. Lagarde a déclaré que l’interruption n’avait pas entraîné de perturbation discernable du système financier, mais a averti qu’une future perte d’accès pourrait avoir des conséquences plus graves si les institutions en venaient à dépendre fortement de quelques fournisseurs.