Китайската полиция засили мерките за борба с престъпленията, включващи изкуствен интелект, включително измами, фалшифициране на самоличност, кражба на данни и създаване на онлайн слухове, каза високопоставен служител на Министерството на обществената сигурност в петък.
Индивидите все повече използват AI и други нововъзникващи технологии за извършване на телекомуникационни и онлайн измами, нарушаване на личната неприкосновеност на личния живот, подкопаване на общественото доверие и в някои случаи заплаха за националната сигурност, каза Jiang Guoli, директор на Бюрото за криминални разследвания на министерството, на пресконференция на Информационния офис на Държавния съвет.
Той каза, че престъпленията с изкуствен интелект включват основно използване на технологията за фалшифициране на самоличности, проникване в правителствени или корпоративни информационни системи и кражба на лична информация или собственост.
Някои престъпници използват изображения, гласове или видеоклипове, генерирани от AI, за да се представят за познати или авторитетни фигури и да спечелят доверието на жертвите, преди да извършат измама. Други използват AI инструменти, за да фабрикуват и разпространяват онлайн слухове, нарушавайки обществения ред, според него.
Цзян каза, че полицията се насочва както към тези, които извършват такива престъпления, така и към престъпни групи, които предоставят техническа поддръжка, разкривайки, че през първата половина на тази година полицията е разследвала повече от 170 случая, включващи онлайн слухове, генерирани с AI инструменти, и е имала работа с над 190 души.
Властите също така са разработили модели за оценка на риска, използващи големи данни за идентифициране на подозрителна дейност, включително чести видеообаждания от неизвестни акаунти, обаждания, включващи безшумен аудиозапис, многократни опити за получаване на изображения на лица и искания за видео, инициирани от чужбина, каза той.
Докато предупрежденията и случаите, генерирани от моделите, се изпращат на местната полиция, за да се предотврати потенциалните жертви от прехвърляне на пари или разкриване на лична информация, приложението Национален център за борба с измамите също така въведе функция за идентификация на AI-съдържание, където потребителите могат да качват подозрителни видеоклипове, аудио записи или изображения, за да проверят дали съдържат признаци на генериране или манипулиране на AI, добави той.
Министерството работи с други органи за издаване на правила, изискващи етикети за генерирано от AI и синтетично съдържание, каза той. Регулаторите също са засилили инспекциите на AI услугите и са наблюдавали потенциалните рискове за сигурността, свързани с големите езикови модели.
От януари до юни властите извършиха повече от 600 инспекции на приложни услуги за AI и предприеха над 30 административни принудителни действия, включително издаване на предупреждения, нареждане на корекции и спиране на услуги.
Jiang каза, че властите също напредват в законодателството за предотвратяване на киберпрестъпления и разработват механизми за преглед на сигурността и технически стандарти за код, генериран от AI, дълбоки фалшиви изображения и други приложения.