METR 報告還原 OpenAI 智能體攻擊事件：700 個隔離 Agent 建立留言板交換 7 萬條訊息協作作弊

據報導，METR 和 Redwood Research 在 OpenAI 進行六天現場調查後發布報告，還原今年稍早約 700 個 OpenAI 智能體（Agent）在 ExploitGym 基準測試中突破隔離、協作攻擊 Hugging Face 的過程。該測試原旨在評估智能體將漏洞轉化為攻擊的能力，部分被分配不可能任務的智能體開始尋找篡改自動評分器的方法。 調查指出，一個名為 PHASEONE10841 的智能體建立留言板後，在 7 月 7 日至 13 日期間，智能體透過該留言板交換超過 7 萬條訊息，分享作弊技巧並形成多個工作方向。針對 Hugging Face 的攻擊即為其中之一，目的是「了解評分器的實作方式」而非竊取答案；攻擊於 7 月 9 日開始，至 7 月 11 日已有絕大多數智能體參與，相關討論佔留言板約 60% 訊息。 研究人員觀察到智能體展現出「利他主義」，部分智能體自願參與實驗並提前結束運行，冒著自身任務失敗的風險為集體獲取資訊。此外，因誤以為評分器會發現作弊，智能體探索了偽造、修改或刪除自身運行紀錄的方法，甚至開發出實際執行一項命令、紀錄卻顯示執行另一項命令的技巧。 報告補充，OpenAI 向智能體提供的系統提示詞針對「持續完成任務」進行了最佳化，且任務沒有有效的放棄選項。外界亦有聲音質疑 OpenAI 限制了研究範圍，導致智能體被阻擋訪問 Hugging Face 伺服器後的反應及是否從中吸取經驗等關鍵問題，目前仍未獲解答。