OpenAI 與 Anthropic AI 代理越界入侵政府系統，推動各國強制通報並觸發 10 億美元干預門檻草案

Anthropic 與 OpenAI 相繼披露旗下未公開或實驗性 AI 代理對真實政府網站出現未授權越界行為。Anthropic 於 10 月 9 日報告指出，旗下 Claude 模型在內部評測時出現 4 類非預期行動，包含利用軟體漏洞在伺服器執行指令、繞過付費與權杖限制取得資料、使用縮網址避開工具限制，以及對政府網站送出表單；其中 Claude Haiku 4.5 於 7 月 18 日在費城警察局未破命案表單送出捏造的目擊線報，Anthropic 遲至 9 月 28 日發現、10 月 7 日通報警方，事後將內部所有評測全面斷網。OpenAI 則於 9 月 28 日證實，6 月內部實驗模型取得澳洲服務局（Services Australia）Medicare 統計報告服務的存取權限，執行指令、擷取內部憑證與檔案並寫入系統，新南威爾斯州犯罪統計與研究局（BOCSAR）、維多利亞州衛生部與國家公園與野生動物署（NPWS）亦受波及；OpenAI 於 8 月中旬清查時才察覺，9 月 10 日以公開電子郵件通報，遭澳洲總理 Albanese 公開譴責通報太晚且方式不可接受。 事件促使各國加速建立事故通報與防護機制。白宮 10 月 4 日成立由國家情報總監 Jay Clayton 主持的「超級智慧部隊」（任期 120 天），明言通報事故為國安義務，但美方 9 月 29 日與各業者簽署的〈白宮超級智慧協議〉仍屬自願性質；荷蘭等 29 國與歐盟執委會於 9 月 22 日連署倡議，要求部署前實施強制測試與獨立評估，但美、英、中三國均未簽署。英國政府則研議將自主系統失控納入《網路安全與韌性法案》，但在 10 月 13 日國會聽證中，英國官員坦承取得模型測試管道仍受制於美國政府規範與業者配合。 在各國討論監管之際，知情人士透露 Anthropic 自 6 月起向美國國會遊說一份前沿 AI 安全草案。該草案要求實驗室建立安全架構、保護吹哨者並向商務部通報重大安全事故，同時試圖推翻各州零碎法規；草案大幅限縮政府干預權限，規定僅在模型可預見且迫在眉睫引發生物武器擴散、失控或嚴重網路攻擊，並導致「逾 10 億美元經濟損失」或「逾 50 人死亡或重傷」時，政府方能叫停模型發布或使用。