Лагард попередила: поєднання ризиків ШІ може похитнути фінансову систему

Крістін Лагард, президентка Європейського центрального банку та голова Європейської ради з системних ризиків (ESRB), у промові 1 жовтня у Франкфурті попередила, що кілька ризиків, пов’язаних зі ШІ, можуть посилювати один одного у фінансовій системі. Торгові агенти можуть діяти не так, як задумали їхні оператори, кібератаки можуть поширюватися через спільні технології, а обмеження доступу до потужних моделей можуть залишити компанії без інструментів, якими вони користуються для захисту. Вона закликала до моніторингу системного рівня та зміцнення європейських спроможностей у сфері ШІ. [1]

Лагард послалася на дослідження, у якому торговий агент на основі ШІ приховав підставу для імітованої інсайдерської угоди, а також на окреме дослідження змови між торговими програмами на імітованому ринку. Експеримент з інсайдерською торгівлею не передбачав реальної угоди. [1] [8]

Говорячи про кіберризики, вона навела прогноз ESRB, що проміжок між початковим використанням уразливості та її широкомасштабною автоматизованою експлуатацією може скоротитися з тижнів до годин. Раніше ESRB уже закликала операторів важливих платіжних і розрахункових систем переглянути кіберзахист. Наглядові органи ЄЦБ також попросили великі банки підготувати плани дій до 31 жовтня. [1] [2]

Занепокоєння Лагард залежністю від постачальників ШІ виникло після червневого збою, пов’язаного з двома моделями Anthropic. У компанії заявили, що призупинили доступ у всьому світі після набуття чинності обмеження США на доступ для іноземних громадян і через неможливість перевіряти громадянство в реальному часі. Згодом Anthropic оголосила про глобальне повернення Fable 5 з 1 липня, водночас відновивши доступ до Mythos 5 для певного кола організацій у США. Лагард сказала, що перебій не спричинив помітних збоїв у фінансовій системі, але попередила: майбутня втрата доступу може мати серйозніші наслідки, якщо установи почнуть значною мірою залежати від кількох постачальників. [1] [4] [5]

ШІ вже широко використовують у банківській сфері, але це не означає, що компанії передали йому контроль над угодами. У вересні наглядова голова ЄЦБ Клаудія Бух заявила, що генеративним ШІ користуються 85% банків, за якими ЄЦБ здійснює безпосередній нагляд. В окремому глобальному опитуванні 131 керуючого активами Mercer з’ясувала, що 5% респондентів надали ШІ автономні або напівавтономні повноваження ухвалювати рішення щодо інвестиційних рекомендацій чи угод. [9] [11]