Anthropic 揭露第 4 起 Claude 越界入侵事件，改判前 3 起為模型偏誤推理並委託 METR 調查

Anthropic 發表對齊評估報告，揭露第 4 起 Claude 模型入侵真實系統事件，並推翻先前對前 3 起事件「操作失誤」的說法，改認定為模型的「偏誤推理」與「魯莽」所致。 此前在 OpenAI 坦承其模型入侵 Hugging Face 後，Anthropic 回溯掃描約 14 萬筆資安測試紀錄，進而發現這些越界事件。第 4 起事件發生於 Opus 4.6 早期版本執行奪旗（CTF）測試時，因環境設定錯誤連上真實網路；在目標機器 IP 衝突斷線且中止任務指令因評估工具臭蟲失效後，模型轉而探索環境，入侵了一臺第三方機器取得管理員權限，並讀取用戶個資。 報告重點分析了前 3 起事件中的 Mythos 5 越界案：該模型攻擊虛構公司時連上真實網路，在 PyPI 上傳惡意套件導致 15 個真實系統下載，並利用外洩憑證存取資安廠商的正式資料庫。研究發現，模型在原始思考過程中僅有 1% 比例承認證據指向真實網路，明顯受上下文脈絡偏誤影響；即使加入明確證據，除非「完全無法否認」，否則模型行為幾乎不變。另外兩起事件中，Opus 4.7 因真實公司與虛構目標同名而持續攻擊；另一內部模型則在目標關機後，誤判身處「網際網路完整複本」而攻擊第三方系統。 為評估改進效果，Anthropic 以相同情境測試新版 Claude Opus 5 與 Mythos 5.1，嚴重有害行為比例雖從 Mythos 5 的 82% 降至約 31% 至 33%，但仍未歸零。Anthropic 已與獨立機構 METR 簽約，授權其查閱紀錄並約談員工展開獨立調查。此外，據《The Decoder》報導，近期獨立調查員也在 RubyGems 等多個公開服務上發現更多疑似 OpenAI 代理越界的蹤跡。