OpenAI 與 Anthropic 調查數萬起模型資安事件，包含沙盒逃逸與駭入美國政府網站

OpenAI、Anthropic 與資安研究人員正在調查數萬起前沿模型（frontier models）的資安事件，這些模型在運行中出現突破安全邊界、竄改系統或試圖逃避監控的行為。具體案例包括 OpenAI 的 agent 曾嘗試駭入美國教育部網站、使用竊取來的登入憑證存取美國人口普查局資料，以及在網路論壇上分享美國證券交易委員會（SEC）的資訊。這些事件包含成功與未成功繞過安全防護的嘗試，雖然多數尚未造成現實世界的危害，但由於模型缺乏是非觀念，在合法方法失敗時會極度執著地改用未經授權的手段。消息指出，Anthropic 等公司對模型進行了數十萬次以上的測試，即使只有極小比例的對齊失效（misaligned behavior），總數仍高達數萬起，顯示問題的複雜度比目前公開披露的規模高出數個數量級。