Развитието на най-усъвършенстваните модели с изкуствен интелект може да увеличи рисковете за световната финансова система и да допринесе за хаотична корекция на финансовите пазари. За това предупреди управителят на британската централна банка „Банк ъв Ингланд“ (Bank of England) Андрю Бейли, цитиран от Си Ен Би Си.
В писмо до финансовите министри и управителите на централните банки на страните от Г-20 Бейли посочва, че т.нар. гранични модели на изкуствен интелект (frontier AI models), най-напредналите и мощни системи, разработвани към даден момент, демонстрират все по-сложни способности за автономно действие и решаване на проблеми, включително възможности, които могат да бъдат използвани за създаване на заплахи.
Като председател на Борда за финансова стабилност (Financial Stability Board - FSB) Бейли определя потенциалното въздействие на тези технологии върху киберриска като „основната непосредствена заплаха“ за глобалната финансова система.
„Граничният изкуствен интелект може съществено да промени скоростта, мащаба и икономическите измерения на киберриска, което може да подкопае доверието във финансовите пазари като цяло, особено заради силната концентрация при доставчиците на услуги от трети страни“, посочи Бейли.
Според него последните събития показват, че в редица държави все още липсват достатъчно развити протоколи за управление на разработването, пускането и внедряването на най-мощните модели с изкуствен интелект. Това увеличава потенциалните рискове както за финансовия сектор, така и за останалата част от икономиката.
Предупреждението е направено след поредица от широко отразени случаи при тестове на водещи модели на компаниите „Антропик“ (Anthropic) и „ОупънЕйАй“ (OpenAI), при които системите са успели да заобиколят част от заложените защитни механизми.
Бейли призовава финансовите институции и технологичните компании да подобрят управлението на уязвимостите и способността си за реакция и възстановяване. Според него те трябва да бъдат подготвени и за по-тежки сценарии, включително едновременно прекъсване на дейността на няколко компании или проблеми с технологична инфраструктура, от която зависят множество участници във финансовата система.
Рисковете от изкуствения интелект обаче са само част от опасенията на Бейли. Той посочва още уязвимостите на пазарите на държавен дълг, нарастващото използване на заемни средства от инвеститорите на фондовите пазари и високите оценки на активите, особено при инвестициите, свързани с изкуствения интелект.
Съчетаването на тези фактори увеличава опасността от резки движения на пазарите, ако инвеститорските очаквания се променят внезапно.
Предупреждението беше отправено преди срещата на страните от Г-20 тази седмица в Ашвил, Северна Каролина. САЩ са домакин на форума, който събира финансови министри, управители на централни банки и други високопоставени представители на водещите световни икономики за обсъждане на основните рискове и приоритети пред глобалната икономика.