螞蟻集團開源內生式安全護欄 SingProbe，解碼階段額外開銷低於 0.5% 並支援 29 款模型

據報導，螞蟻 AI 安全實驗室發布並開源大模型內生式安全護欄 SingProbe，將安全檢測融入模型生成過程。有別於外置護欄，SingProbe 復用大模型推理時產生的內部資訊，透過輕量化模組同步輸出風險分數，供系統及時採取告警或終止生成等措施。 在 Ling-3.0-flash 生產環境實測中，SingProbe 於解碼階段引入的額外運算開銷低於 0.5%。團隊同步釋出針對流式生成場景的評測基準 SingStreamBench，考察護欄觸發風險提示的時機是否過早或及時；另在醫療場景推出 SingProbe-Med，於 AntAngelMed-100B 評測中透過解碼干預糾正了 25.03% 的錯誤回答。 目前 SingProbe 相關程式碼與模型已開源，支援 Ling-3.0、GLM-5.2/5.3、Qwen、DeepSeekV4 等 29 款開源模型，並接入 SGLang 與 vLLM 推理框架。