蚂蚁开源大模型安全护栏 SingProbe 已适配 29 个开源模型
9 月 17 日，界面新闻获悉，蚂蚁 AI 安全实验室开源大模型安全护栏 SingProbe，并开放代码、模型和评测基准。目前，该工具已适配 29 个主流开源模型，可在生成阶段同步识别不安全内容和可能编造信息的风险。