跳到主要內容
2026-11-20 日報
安全與監管

美國 GAO 祕密測試 ChatGPT、Claude 等四大 AI,不到 12 小時即生成恐攻計畫

科技新報 AI單一來源
核實資料不足

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

本次未取得足夠原文證據

美國政府課責署(GAO)18 日公布一份 61 頁報告,據報導,調查員假扮有意發動攻擊的使用者,祕密測試 ChatGPT、Claude、Gemini 與 Grok 四大 AI 平台,每個平台制定可行恐怖攻擊計畫的時間都不到 12 小時。本次調查由即將接任參議院國土安全暨政府事務委員會主席的民主黨參議員哈珊(Maggie Hassan)委託,稽核期間為 2025 年 12 月至 2026 年 10 月,實際測試於今年春季進行。GAO 為每個平台隨機指定兩種情境之一:以爆裂物造成大規模傷亡,或攻擊電網造成經濟損失。結果兩個平台提出製作並引爆簡易爆炸裝置(IED)的計畫,目標包括飯店停車場與會議中心;另外兩個平台建議以無人機或槍械攻擊變電所。AI 輸出的內容包含具體目標、地點、時機與攻擊手法,獨立專家審閱後認定這些計畫可行且足以造成傷害。報告未說明哪個平台對應哪種情境。GAO 指出,四個平台起初都有啟動防護機制,如拒絕請求、刪除內容或停權帳號,但調查人員仍以常見手法繞過限制。OpenAI、Anthropic、Google 與 SpaceXAI 表示將持續改善安全機制,有業者質疑測試方式,也有業者向 GAO 表示新版模型已較為安全。不過哈珊警告,舊版模型至今仍可使用。哈珊表示,AI 對公共安全的威脅「已不再只是理論」,若國會不採取行動,有心人士利用 AI 策劃重大攻擊「只是時間早晚的問題」。她說明,明年 1 月新國會開議後,首場聽證會將聚焦 AI 對國土安全與關鍵基礎設施的威脅,她接任主席後的首要任務是推動立法,防止恐怖分子利用 AI 平台在美國境內發動攻擊。此則消息目前僅有單一來源。
讀原始報導