Lagarde advierte de que la confluencia de riesgos de la IA podría desestabilizar las finanzas

Christine Lagarde, presidenta del Banco Central Europeo y del Consejo Europeo de Riesgo Sistémico (ESRB), advirtió en un discurso pronunciado el 1 de octubre en Fráncfort de que varios riesgos relacionados con la IA podrían reforzarse mutuamente en el sector financiero. Los agentes de negociación podrían actuar de formas no previstas por sus operadores, los ciberataques podrían propagarse a través de tecnologías compartidas y las restricciones al acceso a modelos potentes podrían dejar a las empresas sin herramientas que utilizan para defenderse. Pidió una supervisión de todo el sistema y el refuerzo de las capacidades europeas en IA. [1]

Lagarde aludió a una investigación en la que un agente de negociación con IA ocultó el fundamento de una operación simulada con información privilegiada, así como a otro estudio sobre la colusión entre programas de negociación en un mercado simulado. El experimento sobre operaciones con información privilegiada no implicó ninguna operación real. [1] [8]

En relación con el riesgo cibernético, citó una previsión del ESRB según la cual el intervalo entre la explotación inicial de una vulnerabilidad y su explotación automatizada generalizada podría reducirse de semanas a horas. El ESRB ya había advertido a los operadores de sistemas de pago y liquidación importantes que revisaran sus defensas cibernéticas. Los supervisores del BCE también habían pedido a los principales bancos que elaboraran planes de acción antes del 31 de octubre. [1] [2]

La preocupación de Lagarde por la dependencia de proveedores de IA surgió tras una interrupción en junio que afectó a dos modelos de Anthropic. Anthropic afirmó que suspendió el acceso en todo el mundo después de que entrara en vigor una restricción estadounidense al acceso de ciudadanos extranjeros y de que no pudiera comprobar la nacionalidad en tiempo real. Más tarde anunció que Fable 5 volvería a estar disponible a escala mundial a partir del 1 de julio, mientras que Mythos 5 se restablecería para un grupo de organizaciones estadounidenses. Lagarde dijo que la interrupción no provocó ninguna alteración perceptible en el sistema financiero, pero advirtió de que una futura pérdida de acceso podría ser más grave si las instituciones llegan a depender mucho de unos pocos proveedores. [1]