nini (@nini_incrypto_) “蚂蚁集团 AI 安全实验室近期开源了两个保护 Agent 安全的王牌项目：SingGuard 和 Sing”

2026.07.14 07:15

蚂蚁集团 AI 安全实验室近期开源了两个保护 Agent 安全的王牌项目：SingGuard 和 SingGuard-NSFA 随着 Agent 开始自主规划与调用工具，安全威胁已从“模型说了什么”演变为“Agent 做了什么”。传统的文字检测护栏对此根本无能为力。 SingGuard：主打输入端的输入输出防御，全面覆盖文本、图像等多模态安全。它的合规规则无需重训模型，支持动态参数换入，省去了极高的重新训练成本。 SingGuard-NSFA：专治 Agent 的异常动作风险。它把工具调用、恶意代码执行等风险拆成 7 大类、185 个细分变体。它还支持超 133 种语言，彻底堵死了攻击者换个冷门语种绕过安全护栏的漏洞。项目提供 0.8B 到 9B 等多种尺寸，还贴心地支持“生成详细风险报告”和“高并发快速分类”两种工作模式，可以无缝拼装到其他护栏模型上。想要让你的 AI Agent 规模化落地？安全这个前置条件快补上啦

显示更多