Националната администрация за финансово регулиране обяви пускането на нови насоки за безопасното разработване и прилагане на AI в банковия и застрахователния сектор в четвъртък.
Насоките призовават за по-строго базирано на риска и диференцирано управление на разработването и прилагането на изкуствен интелект в банкови и застрахователни институции, за да се отговори ефективно на предизвикателствата, породени от развитието на ИИ, като същевременно се обслужва по-добре реалната икономика и се посрещат нуждите на обществото.
Служител на NFRA каза, че насоките имат за цел да регулират разработването и използването на AI от банкови и застрахователни институции, ефективно да предотвратяват и контролират рисковете, произтичащи от AI приложения, да насърчават висококачественото развитие на цифровите финанси, да напредват в правилното интегриране на AI иновациите с финансовите услуги и да ръководят здравословното и организирано развитие на AI приложения във финансовия сектор по начин, който е полезен, безопасен и справедлив.
Насоките изискват финансовите институции, които разработват и внедряват AI технологии, да засилят планирането от най-високо ниво и цялостното управление чрез установяване на цялостна рамка за управление на жизнения цикъл на AI и подобряване на надзора на сценариите на приложенията и бизнес процесите.
Институциите се насърчават да изграждат независимо контролирана, сигурна и ефективна интелигентна изчислителна инфраструктура. Големите финансови институции с необходимите възможности се насърчават да предоставят услуги с изчислителна мощност на по-малки институции и да подкрепят усилията на индустрията за съвместно изграждане и споделяне на инфраструктура.
Освен това от финансовите институции се изисква да включат свързаните с ИИ рискове в своите всеобхватни рамки за управление на риска, да прилагат базирана на риска класификация и многостепенно управление и да установят контрол на достъпа за високорискови приложения с ИИ.
Механизмите за човешки надзор и намеса трябва да бъдат въведени на ключови етапи от високорискови приложения, като същевременно следва да се засили управлението на риска по веригата на доставки на външни изпълнители.
Регулаторният служител каза, че финансовите институции трябва да извършват редовни оценки и прегледи на свързаните с ИИ рискове и мерки за контрол на риска, като предпазват от рискове като модели на „черна кутия“, халюцинации на ИИ и алгоритмична дискриминация, като същевременно укрепват киберсигурността, сигурността на данните и защитата на информацията за клиентите.
Финансовите институции трябва да изградят възможности за ИИ, които комбинират сигурност, прозрачност и отчетност, като същевременно балансират контрола на риска с развитието на бизнеса. Те трябва да засилят сигурността на данните и защитата на личната информация, да прилагат стриктно изискванията за класифициране и защита на данните и да подобрят мерките за филтриране на съдържание и десенсибилизация на данните, каза служителят.
Насоките отбелязват първата специална регулаторна рамка на NFRA за безопасното разработване и използване на изкуствен интелект в банковия и застрахователния сектор, каза Донг Шимиао, главен икономист в Merchants Union Consumer Finance и изпълнителен директор на Шанхайския институт за финанси и развитие. Те се справят с предизвикателството на някои финансови институции, които приемат AI сляпо без адекватни регулаторни насоки, като същевременно установяват правила, дефинират червени линии и определят посоката за приложенията на AI в банковия и застрахователния сектор.
Донг отбеляза, че насоките определят ясни предпазни мерки за приложенията на ИИ. Най-вече те забраняват използването на лична информация и частни данни при обучение на генеративни AI модели, с цел ограничаване на нарушенията на поверителността и алгоритмичните пристрастия при източника. От банковите и застрахователните институции също се изисква да включат рисковете, свързани с ИИ, в своите общи рамки за управление на риска и да засилят човешкия надзор при високорискови сценарии, за да гарантират предпазливостта на критичните бизнес решения.
Отвъд контрола на риска, насоките очертават пътя за висококачествено развитие на ИИ във финансите, като наблягат на сигурно, практично и самостоятелно технологично развитие. Те са предназначени да гарантират, че AI обслужва реалната икономика, насърчава правилното интегриране на технологичните иновации с финансовите услуги и поддържа устойчивия растеж на цифровите финанси, каза Донг.
Той подчерта, че насоките имат четири основни акцента.
Една забележителна характеристика е, че те предоставят, за първи път, ясна дефиниция на високорискови сценарии за кандидатстване, включително търговия с фондове, одобрение на кредити и подписване и уреждане на искове. Заявленията в тези области трябва да бъдат одобрени от комитета за управление на риска на финансовата институция и докладвани на NFRA. Механизмите за човешки надзор и намеса също са задължителни на ключови етапи, за да се гарантира, че критичните решения няма да се превърнат в „черни кутии“.
Друг важен аспект се отнася до изчислителната инфраструктура. Насоките изискват от големите институции да изградят независими и контролируеми интелигентни изчислителни платформи въз основа на техните нужди, като същевременно ги насърчават да предоставят изчислителни услуги на по-малки финансови институции. Те също така подкрепят съвместното конструиране и споделяне на компютърни ресурси в цялата индустрия, като помагат за облекчаване на компютърните затруднения, пред които са изправени по-малките институции, и насърчават по-балансирано развитие в целия сектор.
Насоките също установяват строги червени линии за защита на поверителността на данните, като изрично забраняват използването на чувствителна лична информация — като имена и идентификационни номера — за обучение и оптимизиране на генеративни AI модели. Това помага за изграждането на силни предпазни мерки срещу рискове за сигурността на данните от самото начало.
Освен това от финансовите институции се изисква да поддържат цялостен надзор на приложенията с ИИ, като същевременно непрекъснато подобряват прозрачността и устойчивостта на модела. Тези изисквания ще помогнат да се гарантира, че алгоритмичното вземане на решения остава съвместимо и проследимо, осигурявайки институционална рамка за безопасно приложение и здравословни иновации на ИИ във финансовия сектор, каза Донг.
Благодарение на chinadaily.com.cn
Моля, посетете: