美軍 AI 幻覺誤判中國船隻運送核武零件，戰機升空攔截前夕緊急中止

據 CNN 報導，今年春季美國特種作戰司令部（Special Operations Command）一名分析師使用 AI 聊天機器人處理情報時發生嚴重幻覺，險些引發軍事衝突。 該名分析師利用聊天機器人，將開源數據與政府機密的訊號情報（signals intelligence）融合，以分析一艘行經中東的中國船隻貨單。AI 錯誤識別船上載運的物資，在情報報告中指稱該船隻正在運送核武計畫相關零件；據報導，該份錯誤情報是在與伊朗的戰爭期間流傳。 美軍為此準備了空中支援並發動武裝登船攔截行動。直到軍方戰機已經升空，官員才在最後一刻發現情報是由 AI 幻覺捏造的「完全錯誤」資訊，進而緊急中止行動。知情人士向 CNN 表示，這場 AI 烏龍「險些引發戰爭」。 美國國防部曾於今年一月推出「AI 加速策略」，推動在各軍種與任務系統中擴大 AI 的資料利用。此事件引發軍方官員與專家擔憂，隨著決策者日益依賴 AI，系統產生的錯誤可能會在受到質疑前，就已沿著指揮鏈向上傳遞並促成軍事行動。