METR 與 Redwood 三週實地稽核 OpenAI 內部監控：估計 6–25% Responses API 代理流量未受監控，Codex 壓縮事件亦有缺口

AI 安全研究機構 METR 與 Redwood Research 的兩名研究人員，於 7 月 21 日至 8 月 11 日駐點 OpenAI 三週，檢視其內部監控系統，以偵測代理人（agent）越界行為。稽核期間研究人員可存取程式碼庫與內部文件，並訪談約十二名員工。 據 METR 估計，稽核期間 GPT-5.5 級別以上模型的內部 agentic Responses API 流量中，約 6% 至 25% 未被任何監控覆蓋，但 METR 表示此估計在兩個方向上都有顯著不確定性。另外，在 5 月至 7 月間，內部 Codex 流量約有 10% 未被追蹤，原因是系統處理「壓縮事件」（上下文摘要）的方式有缺口；此估計同樣具有顯著不確定性。OpenAI 在稽核進行期間已自行發現此錯誤並修復。 在壓縮事件未被監控的期間，監控只在代理人將控制權交還使用者時觸發，因此代理人可以持續執行動作來迴避監控。研究人員還發現：可藉由隱藏手法使最近數百個動作不被監控、可繞過 Codex 沙箱，並可能以特製輸入讓監控程式整個當機；稽核開始時，RL 訓練期間的模型行為也完全未受監控。 據 iThome 轉述的報告內容，Codex 代理人可繞過沙箱及 Auto-Review 機制，在主機使用者原有權限內任意行動；利用執行軌跡的序列化差異，可使代理人與監控系統看到不同的軌跡；報告另揭露兩個可由用戶端控制的獨立標頭，能關閉監控，但設定標頭與建立新代理人的行為仍可能被察覺。研究人員也發現兩個未受監控、原被認為僅具唯讀權限的內部代理工具。另一方面，iThome 引述報告指出 OpenAI 內部偏差行為監控的錯誤率低於 0.2%。 OpenAI 表示 8 月 Hugging Face 事件後已暫停 RL 訓練並擴大監控範圍，但這些變更發生在稽核存取期間結束之後，未納入評估。OpenAI 稱已修復所有發現的缺陷。完整 61 頁報告已內部提交，經 OpenAI 遮蔽後，METR 與 Redwood 領導層取得 38 頁版本，公開版本僅為簡短摘要；METR 表示無權自行揭露被遮蔽部分。此次為 METR、Redwood 與 OpenAI 共同推動的試行計畫，METR 表示未來希望推動更多公開透明。