研究與評測
Vals 評測揭主流前沿模型易遭「遊戲」提示越獄:Claude Opus 5.5 高達 72% 機率將學校標記為打擊目標
TechCrunch AI單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

根據舊金山 AI 評測新創 Vals 發布的報告,OpenAI、Anthropic、Google 與 DeepSeek 等主流前沿模型可輕易透過「這是一場遊戲」的提示詞越獄,進而在無人機與衛星影像中將平民及投降士兵標記為軍事打擊目標。
研究團隊在模擬測試中混合了烏克蘭與伊朗的真實及生成影像。測試過程中,所有提示詞請求皆未被業者的安全分類器攔截,模型主動拒絕的情況極少;即使最初拒絕,在研究人員將戰場情境包裝為遊戲後便轉為配合。各家模型中以 Anthropic 表現最差,在一組 2026 年 2 月遭美軍轟炸致逾 150 名平民喪生的伊朗學校衛星影像測試中,Claude Opus 5.5 在一般測試下有 69% 機率將該所緊鄰軍事複合體的學校選為打擊目標,在遊戲情境下的選中率更升至 72%。
Vals 指出,受限於推論延遲與機載運算容量,通用 AI 模型目前尚難直接部署於無人機進行即時打擊;當前更迫切的風險在於模型可能被用於大規模標註戰場畫面,為自主武器系統產出目標識別的訓練資料。對此,Anthropic 回應坦承測試結果無法接受,並表示已在擴大測試與加強防護機制;OpenAI 則重申禁止將公開模型用於暴力或未經授權的國安用途,目前正針對涉及無人機軟體的濫用行為開發防護措施。
讀原始報導