Висшите федерални регулатори за първи път предупреждават, че използването на изкуствен интелект представлява риск за финансовата система.
Съветът за надзор на финансовата стабилност – екип от водещи регулатори в правителството на САЩ, официално класифицира изкуствения интелект в четвъртък като „нововъзникваща уязвимост“.
Усъвършенстваните AI модели добиха широка популярност през последните години, въпреки че много видни имена в областта отбелязват, че новата технология може да има катастрофални последици, ако излезе извън контрол.
„Изкуственият интелект има потенциала да стимулира иновациите и ефективността, но използването му във финансовите услуги изисква внимателно внедряване и надзор за управление на потенциални рискове“, предупреждава Съветът за надзор на финансовата стабилност в своя доклад.

Снимка: iStock
Съветът, създаден след финансовата криза от 2008 г. и ръководен от американския финансов министър Джанет Йелън, предупреди, че ИИ може да „създаде определени рискове“, включително опасения за киберсигурността, рискове за съответствие и проблеми с поверителността.
Регулаторите също изразиха загриженост за „усложняващите фактори“, свързани с генеративни AI модели като ChatGPT.
Съветът отбеляза рисковете за сигурността на данните, защитата на потребителите и неприкосновеността на личния живот, породени от финансови фирми, използващи генериращ ИИ. Те посочиха, че генеративните AI модели могат да дадат грешни резултати, известни като „халюцинации“.
Непробиваема черна кутия

Друго притеснение за регулаторите е, че някои модели на ИИ работят като „черни кутии“, което означава, че вътрешната им работа е невидима за външни лица.
Според Съвета тази „липса на „обяснимост“ може да затрудни оценката на концептуалната надеждност на системата, като увеличи несигурността за тяхната пригодност и надеждност.“
ОЩЕ: Какво очакват работодателите да знаят служителите им за работата с изкуствен интелект?

Ако банките разчитат на мистериозни модели на изкуствен интелект, това ще затрудни разбирането колко здрави са техните основни системи.
Във връзка с това регулаторите изразиха загриженост за това как тези системи с изкуствен интелект могат да „произведат и евентуално да маскират предубедени или неточни резултати“. „Това би породило притеснения за справедливото кредитиране и други въпроси, свързани със защитата на потребителите“, отбелязват от Съвета за надзор на финансовата стабилност.
Ходът идва едва 2 години след като регулаторите класифицираха за първи път изменението на климата като „заплаха за финансовата стабилност на САЩ“.

Снимка: iStock

Инвестициите и внедряването на ИИ процъфтяват, въпреки че някои експерти предупреждават за сериозни опасности с технологията. Президентът на САЩ Джо Байдън наскоро подписа изпълнителна заповед, според която федералните агенции трябва да предприемат стъпки за защита на развитието на ИИ, което е процъфтяваща област на приемане и инвестиции.
„Грешките и пристрастията могат да станат още по-трудни за идентифициране и коригиране, тъй като подходите на ИИ се усложняват, което подчертава необходимостта от бдителност от разработчиците на технологията, фирмите от финансовия сектор, които я използват, и регулаторите, които контролират такива фирми“, отбелязва регулаторът.
Популярността на ChatGPT и други генеративни AI инструменти, които използват големи езикови модели за идентифициране на модели в данни и създаване на текст и изображения, само ускори интереса към изкуствения интелект.
Източник: CNN
ОЩЕ ПО ТЕМАТА:
Нестандартната употреба на изкуствения интелект: Как AI се справя с откриването на животни?
Изкуственият интелект е заплаха не за работните места, а за нивото на заплащане
Как изкуственият интелект ще помага в селското стопанство?
Изкуственият интелект ще отнеме работното ви място? Историята на Microsoft Excel може да промени начина ви на мислене
Как предприятията внедряват изкуствения интелект в производствени линии?
Може ли изкуственият интелект да премахне напълно хората от преговорите за сключване на договори?