Китай призова за по-силно базирано на риска, стъпаловидно управление на разработването и прилагането на изкуствен интелект в банкови и застрахователни институции, за да се отговори ефективно на предизвикателствата, породени от развитието на ИИ, като същевременно по-добре обслужва реалната икономика и отговаря на нуждите на обществеността.
Националната администрация за финансово регулиране заяви в четвъртък, че е издала насоки за безопасното разработване и прилагане на AI в банковия и застрахователния сектор.
Служител от регулаторния орган каза, че насоките не само имат за цел да регулират разработването и използването на AI от банкови и застрахователни институции, но също така ефективно предотвратяват и контролират рисковете, произтичащи от AI приложения, насърчават висококачественото развитие на цифровите финанси, напредват в правилното интегриране на иновациите на AI с финансовите услуги и ръководят здравословното и организирано развитие на използването на AI във финансовия сектор по начин, който е полезен, безопасен и справедлив.
Насоките изискват от финансовите институции да засилят планирането на най-високо ниво и цялостното управление чрез създаване на цялостна рамка за управление на жизнения цикъл на ИИ и подобряване на надзора на сценариите на приложения и бизнес процесите. Институциите се насърчават да изграждат, ако е необходимо, независимо контролирана, сигурна и ефективна интелигентна изчислителна инфраструктура. Големите финансови институции с необходимите възможности се насърчават да предоставят услуги с изчислителна мощност на по-малки институции и да подкрепят усилията на индустрията за съвместно изграждане и споделяне на инфраструктура.
Освен това от финансовите институции се изисква да включат свързаните с ИИ рискове в своите всеобхватни рамки за управление на риска, да прилагат базирана на риска класификация и многостепенно управление и да установят контрол на достъпа за високорискови приложения с ИИ. Механизмите за човешки надзор и намеса трябва да бъдат въведени на ключови етапи от високорискови приложения, като същевременно следва да се засили управлението на риска по веригата на доставки на външни изпълнители.
Регулаторният служител каза, че финансовите институции трябва да извършват редовни оценки и прегледи на свързаните с ИИ рискове и мерки за контрол на риска, като се предпазват от рискове като модели на „черна кутия“ (AI системи, чиято вътрешна работа не е видима за техните потребители), ИИ халюцинации и алгоритмични пристрастия, като същевременно укрепват киберсигурността, сигурността на данните и защитата на информацията за клиентите.
Финансовите институции трябва да изградят възможности за ИИ, които комбинират сигурност, прозрачност и отчетност, като същевременно балансират контрола на риска с развитието на бизнеса. Те трябва да засилят сигурността на данните и защитата на личната информация, да прилагат стриктно изискванията за класифициране и защита на данните и да подобрят мерките за филтриране на съдържание и десенсибилизация на данните, каза служителят.
Насоките отбелязват първата специална регулаторна рамка на Националната финансова регулаторна рамка за безопасно разработване и използване на изкуствен интелект в банковия и застрахователния сектор, каза Донг Ксимяо, главен икономист в Merchants Union Consumer Finance и изпълнителен директор на Шанхайската институция за финанси и развитие.
Насоките са насочени към предизвикателството на някои финансови институции да приемат AI сляпо без адекватни регулаторни насоки, като същевременно те установяват правила, дефинират червени линии и определят посоката за приложенията на AI в банковия и застрахователния сектор, каза той.
Отвъд контрола на риска, насоките очертават пътя за висококачествено развитие на ИИ във финансите, като наблягат на сигурното, практично и самостоятелно технологично развитие. Те са предназначени да гарантират, че AI обслужва реалната икономика, насърчава правилното интегриране на технологичните иновации с финансовите услуги и поддържа устойчивия растеж на цифровите финанси, каза Донг.
Една забележителна характеристика на насоките е, че те предоставят, за първи път, ясна дефиниция на високорискови сценарии за кандидатстване, включително търговия с фондове, одобрение на кредити и подписване и уреждане на искове, каза той. Приложенията на AI в тези области трябва да бъдат одобрени от комитета за управление на риска на финансовата институция и докладвани на регулаторната администрация.
Насоките също така подкрепят съвместното конструиране и споделяне на изчислителни ресурси в цялата индустрия, което ще помогне за облекчаване на компютърните затруднения, пред които са изправени по-малките институции, и ще насърчи по-балансирано развитие в целия сектор, каза Донг.
Освен това насоките установяват строги червени линии за защита на поверителността на данните, като изрично забраняват използването на чувствителна лична информация, като имена и идентификационни номера, при обучението и оптимизирането на генеративни AI модели, отбеляза той.
Освен това от финансовите институции се изисква да поддържат цялостен надзор на приложенията на ИИ, като същевременно непрекъснато подобряват прозрачността на модела, което ще помогне да се гарантира, че алгоритмичното вземане на решения остава съвместимо и проследимо, осигурявайки институционална рамка за безопасно приложение и здравословни иновации на ИИ във финансовия сектор, каза Донг.
Благодарение на chinadaily.com.cn
Моля, посетете: