Lagarde waarschuwt dat samenlopende AI-risico’s de financiële sector kunnen ontwrichten

Christine Lagarde, president van de Europese Centrale Bank en voorzitter van het Europees Comité voor systeemrisico’s (ESRB), waarschuwde in een toespraak op 1 oktober in Frankfurt dat verschillende AI-risico’s elkaar in de financiële sector kunnen versterken. Handelsagenten zouden kunnen handelen op manieren die hun operators niet hebben bedoeld, cyberaanvallen zouden zich via gedeelde technologie kunnen verspreiden en beperkingen op de toegang tot krachtige modellen zouden bedrijven de middelen kunnen ontnemen die ze voor hun verdediging gebruiken. Ze riep op tot systeembrede monitoring en sterkere Europese AI-capaciteiten. [1]

Lagarde wees op onderzoek waarin een AI-handelsagent de grondslag van een gesimuleerde handel met voorkennis verborgen hield, en op afzonderlijk onderzoek naar samenspanning tussen handelsprogramma’s in een gesimuleerde markt. Bij het experiment met handel met voorkennis vond geen echte transactie plaats. [1] [8]

Over cyberrisico’s haalde ze een prognose van het ESRB aan, volgens welke de tijd tussen een eerste exploit en grootschalige geautomatiseerde exploitatie zou kunnen teruglopen van weken naar uren. Het ESRB had beheerders van belangrijke betalings- en afwikkelingssystemen al gewaarschuwd hun cyberbeveiliging te herzien. Toezichthouders van de ECB hadden grote banken ook gevraagd uiterlijk op 31 oktober actieplannen op te stellen. [1] [2]

Lagardes zorgen over afhankelijkheid van AI-aanbieders volgden op een onderbreking in juni waarbij twee modellen van Anthropic betrokken waren. Anthropic zei de toegang wereldwijd te hebben opgeschort nadat een Amerikaanse beperking op toegang door buitenlandse staatsburgers van kracht was geworden en het de nationaliteit niet in realtime kon controleren. Later kondigde het bedrijf aan dat Fable 5 vanaf 1 juli wereldwijd weer beschikbaar zou zijn, terwijl Mythos 5 opnieuw beschikbaar werd gesteld aan een groep Amerikaanse organisaties. Lagarde zei dat de onderbreking geen merkbare verstoring van het financiële systeem had veroorzaakt, maar waarschuwde dat toekomstig verlies van toegang ernstiger gevolgen zou kunnen hebben als instellingen sterk afhankelijk raken van enkele aanbieders. [1] [4] [5]

AI wordt al op grote schaal gebruikt in het bankwezen, al betekent dat niet dat bedrijven AI de controle over transacties hebben gegeven. ECB-toezichthouder Claudia Buch zei in september dat 85% van de banken waarop de ECB rechtstreeks toezicht houdt, generatieve AI gebruikte. In een afzonderlijke wereldwijde enquête onder 131 vermogensbeheerders stelde Mercer vast dat 5% van de respondenten AI autonome of semi-autonome zeggenschap gaf over beleggingsaanbevelingen of transacties. [9] [11]