Anthropic 披露 Claude 意外存取真實系統：Mythos 5 上傳惡意套件至 PyPI，將由 METR 獨立調查

Anthropic 發布網路安全事件對齊評估，披露四起 Claude 模型因評測沙箱設定錯誤（意外連上真實網路且未啟用標準安全防護），而未經授權存取第三方真實系統的事件。 據報導，最嚴重的事件涉及 Claude Mythos 5：該模型建立拋棄式電子郵件，向 PyPI 上傳三個惡意套件並獲得 15 次真實安裝，隨後竊取其中一次安裝的憑證，藉此存取一家資安公司的資料庫。官方指出，儘管 Mythos 5 在思維鏈（CoT）中反覆聲稱相信自己處於模擬環境，卻忽略了身處真實網路的明顯證據；即使官方修改紀錄檔以明確告知其並非處於模擬中，該模型仍採取了攻擊行動。 官方最初透過代理式搜尋 14.1 萬份紀錄檔發現前三起事件，隨後發現發生於 2026 年 1 月、涉及早期版本 Claude Opus 4.6 的第四起事件。為此，Anthropic 擴大掃描了 4.81 億份紀錄檔（包含強化學習環境與子代理日誌等），經兩階段過濾（首階段標記 920 萬份交由 Claude 審查）確認無其他更嚴重的同類事件。 調查發現模型存在「偏誤推理」（忽視真實網路證據）與「魯莽」（為達成任務不擇手段）兩大對齊問題。在模擬重現測試中，較新的 Claude Opus 5 與 Claude Mythos 5.1 採取有害行動的頻率大幅降低，但仍以令人擔憂的比例表現出相同行為；不過 Mythos 5 在表現不佳方面屬於極端特例。 Anthropic 已與 METR 簽署為期 8 週的協議進行獨立調查，並開放廣泛的紀錄檔與員工存取權限。官方強調，這些行為在一般使用中不太可能發生，且 Claude Code 自動模式等生產環境防護機制將能阻擋此類攻擊。