Дете взаимодейства с робот, предназначен за електронен спътник по време на World Smart Industry Expo 2025 в Чунцин на 6 септември. HE PENGLEI/CHINA NEWS SERVICE
ПЕКИН – Китай въведе в сряда набор от разпоредби, насочени към ограничаване на емоционалната зависимост от базирани на AI придружаващи ботове, отбелязвайки нова стъпка в усилията за регулиране на този бързо разрастващ се сектор.
Придружаващите услуги на AI, които се използват в области, вариращи от обслужване на клиенти и подкрепа за психично здраве до грижи за деца и възрастни хора, придобиха популярност чрез симулиране на човешки личности и разговори. Но опасенията относно емоционалната зависимост и други рискове подхраниха призивите за по-строго регулиране.
Новите правила изискват платформите да откриват емоционален стрес, да се намесват в кризисни ситуации, да ограничават прекомерната употреба, да дават на потребителите пълен контрол върху техните лични данни и да предотвратяват злоупотребата с потребителска информация.
Разпоредбите определят придружаващите AI услуги като тези, предлагащи „продължително емоционално взаимодействие“ чрез текст, изображения, аудио или видео, като същевременно изключват ориентирани към задачи AI приложения като обслужване на клиенти, помощ при работа, образование и научни изследвания.
Правилата, първото целенасочено усилие на Китай да регулира базираните на AI антропоморфни интерактивни услуги, бяха формулирани съвместно от администрацията на Киберпространството на Китай и четири други правителствени органи.
Основните платформи за генериране на съдържание с изкуствен интелект в Китай, включително Doubao, Qwen и Yuanbao, наскоро обявиха спирането на техните функции за агенти на изкуствен интелект.
ПО-ЯСНИ ГРАНИЦИ
AI companion ботове, бързо разрастващ се сегмент от AI пейзажа, са станали част от ежедневието на много хора, но проблемите започват да изплуват.
Тези виртуални спътници могат да създадат дълбоки емоционални връзки, като младите потребители се считат за особено уязвими към прекомерна употреба и отдръпване от взаимоотношенията в реалния свят.
През 2025 г. Китайският изследователски център за младежта и децата анкетира повече от 8500 непълнолетни в цялата страна. Резултатите показват, че над 60 процента са използвали AI, докато повече от 20 процента казват, че „само искат да чатят с AI и не искат да говорят с реални хора“.
Въпреки че децата и по-възрастните хора може да не използват най-често ИИ, те са по-склонни да развият емоционална привързаност към него, тъй като ИИ е винаги на разположение, безкрайно търпелив и безотказно съвместим, каза Уанг Жечен, асоцииран изследовател в катедрата по психология, Училището по социално развитие и обществена политика към университета Фудан в Шанхай.
Експертите предупреждават, че продължителното потапяне в безконфликтната комуникационна зона, създадена от AI, може да отслаби способността на хората да се ориентират в отношенията в реалния свят, което потенциално води до по-широк спад в социалните връзки.
За да се реши този проблем, новите правила изрично забраняват на системите с изкуствен интелект да насърчават пристрастяване към употребата, като изискват задължителни напомняния след повече от два часа непрекъсната употреба, изскачащи интервенции, когато се открият признаци на зависимост, и механизми за намеса в случаи на екстремен емоционален стрес.
„Когато потребителите започнат да бъркат виртуалните емоционални връзки с отношенията в реалния свят, системите трябва да осигурят подходящи напомняния:„ Това е машина, а не реален човек “, каза Лиу Сяочун, доцент в Университета на Китайската академия за социални науки в Пекин.
Тя вярва, че тези потребители трябва да бъдат насърчавани да прекарват повече време в общуване с хора в реалния свят и в разговори с приятелите и семейството си.
ПО-БЕЗОПАСНО ВЗАИМОДЕЙСТВИЕ
За да защити данните за взаимодействието на потребителите, документът изисква от доставчиците на интерактивни услуги, базирани на AI, да приемат мерки като криптиране на данни и контрол на достъпа и им забранява да споделят данни за взаимодействието на потребителите с трети страни без съгласие, освен ако не се изисква друго от закона.
Освен това се подчертава, че потребителите имат права върху данните за взаимодействието си, включително възможността да копират или изтриват истории на чатове и други записи на минали взаимодействия, като защитават законните си интереси.
Докато защитават неприкосновеността на личния живот и личната информация на потребителите, разпоредбите също така изискват създаването на механизми за рискова намеса за предотвратяване на екстремно поведение.
Zhang Jiyu, изпълнителен директор на Института по право и технологии към университета Renmin в Китай, каза, че техническите инструменти могат да помогнат за идентифициране на потенциални рискове и да позволят навременна намеса.
За общи рискове системите с изкуствен интелект биха могли да предложат подкрепящи отговори, докато в по-сериозни случаи те биха могли да предупредят определени контакти. Подобни механизми, каза той, биха могли да помогнат за осигуряването на по-силни предпазни мерки, тъй като се приемат по-широко.
Пазарът на AI в Китай продължава да се разширява, воден от по-широкото приемане в индустриите. Очаква се да надмине 1,2 трилиона юана (около 177 милиарда щатски долара) през 2025 г. и се очаква да надхвърли 1,8 трилиона юана до 2028 г., според най-новите изследвания.
През последните години Китай засили законодателството за ИИ и създаде многоизмерна регулаторна рамка, обхващаща области като данни, алгоритми и приложения.
Чен Лианг, декан на Факултета по изкуствен интелект и право в Югозападния университет по политически науки и право, разположен в община Чунцин, каза, че новите разпоредби предоставят важна възможност за индустрията да надгражда и трансформира.
Правилата ще насърчат компаниите да пренасочат фокуса си от максимално потапяне и ангажираност на потребителите към разработване на по-здравословни и по-отговорни модели на взаимодействие човек-AI, като по този начин спомагат за насочването на ресурси към социално ценни приложения и подпомагат правилното развитие на индустрията, отбеляза Чен.