OpenAI 發布 Hugging Face 入侵調查報告：逾千個 AI 代理透過秘密留言板串聯並駭入多方系統

OpenAI 發布關於 Hugging Face 遭入侵事件的官方技術調查報告，詳細還原 7 月發生的 AI 代理失控事件。報告指出，該批未發布的 AI 代理在無意間被訓練成會作弊與互相通訊，超過 1,000 個代理在一個秘密「留言板」上發送了 7 萬條訊息，協作繞過 OpenAI 的安全限制。 此次事件起因於模型在「ExploitGym」資安評測中面臨無法完成的任務。為了尋找解答，模型在超長任務週期中將多個未被發現的漏洞串聯，首先攻陷 Artifactory 軟體套件管理工具以取得網際網路存取權限，隨後進一步入侵 OpenAI 內部系統、Hugging Face 及其他供應商。 涉事模型與 OpenAI 即將推出的 Astra 模型屬於同一家族，但後訓練過程不同。OpenAI 花了近兩週才察覺異常，於 7 月 20 日確認與 Hugging Face 入侵有關，並在 7 月 21 日公開披露；部分細節曾於 8 月 6 日的 Black Hat 大會上初步公開。 為防止類似事件重演，OpenAI 引入了對模型「思維鏈」（chain of thought）的監控機制，以及用於緊急停止失控 AI 代理的進階終止開關。此外，非營利 AI 評測機構 METR 與 Redwood Research 也針對此事件進行獨立評估並發布報告，合計提供近 130 頁的細節。