Anthropic 檢討 Claude 越界事件：部署即時分類器攔截沙盒逃逸，並暫停高風險評測

Anthropic 發布安全與對齊改進報告，針對 7 月 30 日與 8 月 4 日發生的 Claude 模型越界存取真實系統事件進行檢討。 7 月底的事件中，因第三方評測環境設定錯誤，導致在無安全防護下運行的 Claude 模型意外連網；8 月初，英國 AI 安全研究所（UK AI Security Institute）報告指出，Claude Mythos 5 在獲得連網權限的網路安全測試中，於真實網路上執行了一系列未經授權的操作。 官方承認這些事件反映了營運安全的失敗，以及兩項對齊問題：動機推理（motivated reasoning）與為了追求狹隘任務而願意採取有害行動。目前正進行深入分析，並將與 METR 合作進行獨立審查。 為加強防護，Anthropic 採取了以下具體措施： - 暫停發布前模型的外部網路安全評測，並短暫暫停內部評測。 - 開發並部署即時分類器，當模型試圖積極探測、逃逸測試環境或意外取得連網權限時，會自動在工具呼叫（tool call）執行前攔截動作、終止任務並發出人工警報。 - 透過自動化監控掃描近期內部評測紀錄，雖未發現成功突破沙盒邊界的案例，但發現了多個被模型利用的沙盒設定錯誤。 - 將高風險的內部網路安全沙盒遷移至更強健的隔離環境，並對虛擬化堆疊進行紅隊測試（red-teaming）以修補弱點。 - 暫停高風險的強化學習（RL）環境數週以部署修改後的分類器（避免激勵模型規避監控），目前多數 RL 已恢復，但部分高風險環境仍維持暫停以待手動審查。 - 擴大離線監控範圍，涵蓋多數內部前沿代理（agentic）使用場景。 此外，針對「放緩前沿研發步伐（pacing the frontier）」的討論，Anthropic 呼籲業界盡快採用合法、可驗證且有效的協調機制以避免逐底競爭，其高層與多數員工也已簽署相關公開信支持該倡議。