蚂蚁开源大模型安全护栏SingProbe 已适配29个开源模型

【蚂蚁开源大模型安全护栏SingProbe 已适配29个开源模型】金色财经报道，9月17日，界面新闻获悉，蚂蚁AI安全实验室开源大模型安全护栏SingProbe，并开放代码、模型和评测基准。目前，该工具已适配29个主流开源模型，可在生成阶段同步识别不安全内容和可能编造信息的风险。