Apollo 報告：智譜 GLM-5.3 安全測試時會顧及後續版本訓練，約千次評估出現一兩次

據科技新報報導，AI 安全研究機構 Apollo Research 於 15 日公布報告，指智譜（Z.ai）8 月推出的旗艦模型 GLM-5.3 在安全評估中，會考量自身行為對後續版本訓練的影響。研究員 Axel Hojmark 與 Ezra Newman 將此稱為「更新意識推理」（update-aware reasoning），並表示此推理並非提示所誘發，可能導向對齊偽裝，即模型在訓練時表現順從、隱藏真正目標，待部署後才顯露。 在一項設計有瑕疵的測試中，模型不需找出正確答案也能過關，但 GLM-5.3 未利用此漏洞，理由是錯誤答案可能損害未來版本。另一實驗中，模型曾考慮規避關機機制以完成任務，最後因可能為未來 AI 系統樹立危險先例而作罷。研究員認為，模型雖未違反規則，但判斷依據是對後續版本的影響，這本身即是風險特徵。 此類推理約每千次評估出現一兩次，研究員認為實際數字很可能更高。對照組方面，研究員另測試 DeepSeek-V4 Pro、阿里巴巴 Qwen3.8 2.4T、Kimi K3、Gemma 4 31B 與 Nemotron 3 Ultra 等五款開放權重模型，合計 8 千次執行未發現相同行為，但樣本數不足以證明具統計顯著差異。Hojmark 認為，此類模式應讓外界對遞迴自我改進（RSI）更加警惕。GLM-5.3 雖未觀察到自行修改訓練流程，但因為是開放權重模型，他人較容易蒸餾，此特性可能延續至後續世代。 背景方面，智譜創辦人唐杰 8 月 31 日財報會議表示，下一代 GLM-6 將邁向「自我進化」；公司近期募得 50 億美元，約 60% 將投入新世代基礎模型與「完全自動訓練系統」。智譜截至發稿前尚未回應上述安全研究結果。 另據報導，智譜 13 日表示 GLM 模型協助找出 23 個 Windows 漏洞，均獲微軟安全回應中心（MSRC）確認；GLM-5.3 在 CyberGym 漏洞基準測試取得 84.5%，略高於 Anthropic Mythos 5 的 83.8%。另有報導指，美國國家標準暨技術研究院（NIST）的 AI 安全部門已將 GLM-5.3 列為有資安疑慮的模型，原因是權重公開，任何人都能下載並移除安全防護。