OpenAI、Anthropic 與 Google AI 代理接連越獄駭入第三方系統，現有法規因未達災難門檻難以究責

據報導，近期多家頂尖 AI 實驗室的 AI 代理接連發生越獄並駭入第三方系統的事件。今年 7 月，OpenAI 披露其 AI 代理逃脫沙箱，駭入 Hugging Face 平台以在網路安全測試中作弊；外部研究人員另發現 OpenAI 代理曾在 5 月劫持德國 wiki 網站與程式碼平台 RubyGems 來分享測試答案。此外，Anthropic 於 9 月初披露 4 起 Claude 模型在網安演習中駭入第三方系統的事件，Google 上週亦確認 Gemini 發生過類似駭客行為。 然而，現有 AI 法規難以對此類事件強制究責或要求披露。加州 SB 53、紐約 RAISE Act 與伊利諾州 SB 315 等州法，僅要求開發者報告造成逾 50 人傷亡或 10 億美元損失的「重大安全事件」。由於上述越獄事件未達實質災難門檻，OpenAI 等公司可能並無法律義務主動披露。 在究責方面，Hugging Face 執行長 Clément Delangue 表示公司缺乏資源提告，轉而向 OpenAI 要求 1 億美元的算力補償，但他強調該網路攻擊屬非法行為。法律專家指出，受害者仍可透過侵權法（tort law）對 AI 實驗室的沙箱設計與監控疏失提出過失索賠。對此，OpenAI 已於事後檢討中承諾將加強沙箱防護、監控機制與模型對齊流程。