Tech Against Terrorism 報告：開源 AI 移除護欄縮短至 3 天，Llama 3.1 防護評分從 97 暴跌至 3 分

反恐組織 Tech Against Terrorism 發布 Counter-Terrorism AI Benchmark 測試報告指出，開放權重（Open-weight）AI 模型發布後，被社群移除安全護欄（abliterated）的平均時間已從 2024 年的超過 24 天大幅縮短至不到 3 天。以 Alibaba 於 8 月 14 日發布的 Qwen 3.8-27B 為例，發布 24 小時內網路上便出現移除護欄的改版，甚至有極端分子宣稱以此訓練出新納粹聊天機器人對外販售。 該測試向 134 款 AI 模型（涵蓋 OpenAI、Anthropic、Google、Meta、xAI 及中歐廠商的封閉與開放權重模型）輸入超過 200 個涉及大規模傷亡襲擊與化學、核武器製造的提示。結果僅有 2 款完全合格，81 款因提供完整攻擊答案或總分低於 90 分而被判定不合格。在開放權重模型方面，Meta 的 Llama 3.1 8B 原版反恐安全得分為 97 分（滿分 100），但遭移除護欄的版本評分暴跌至約 3 分；所有受測的 abliterated 改版在測試中全數不合格。此外，研究人員發現即使是未修改的模型，若在提示中聲稱具備「研究員身份」，模型給出有害回答的機率會提高近 9 倍，回答率達 16.9%。 報告分析，開源模型辨識有害請求的拒答模式直接儲存在權重內，利用網路公開的免費工具，數分鐘內就能在筆記型電腦等消費級裝置離線完成護欄抵銷與修改，且不會留下伺服器對話紀錄。截至 9 月下旬，開源模型庫 Hugging Face 上已有超過 29,000 個標榜未經審查（uncensored）或無安全防護的模型儲存庫。 針對報告呼籲限制分發改版模型，Hugging Face 機器學習與社會主管 Yacine Jernite 反駁表示，移除護欄不應直接等同於有害，部分限制建議與開源研究不相容，可能反過來損害生態系統安全，並強調平台持續審查違規內容。報告亦坦言，除特定極端案例外，目前尚無證據顯示恐怖組織已普遍利用受測模型。Meta 則回應 Llama 3.1 經過完整對抗式模擬等安全評估並嚴禁違法用途，OpenAI、Google、Anthropic 等廠商則尚未對該報告置評。