Лабораторията за AI Safety Lab на Ant Group разполага с отворен код SingGuard-NSFA, модел на предпазна парапет за автономни агенти, и разкрива подробности за SingGuard, мултимодален модел за безопасност. SingGuard-NSFA е проектиран да открива рискове като незабавно инжектиране, кражба на чувствителни данни, изпълнение на злонамерен код, злоупотреба с ресурси и неправилно използване на разрешения, преди агентите да предприемат действия.
Моделът покрива седем основни рискови категории, 28 подкатегории, 185 сценария и 133 езика, с близо 100 000 проби в системата за оценка. Ant каза, че моделът се предлага във версии 0.8B, 2B, 4B и 9B и може да направи една преценка на риска за около 50 милисекунди. [TechWeb, in Chinese]
Свързани