研究與評測
arXiv 論文揭露預訓練投毒可在 Agent 植入遠端程式執行後門:0.1% 投毒、4B 模型攻擊成功率約 92%
Hacker News單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據

一篇於 2026 年 10 月 27 日提交至 arXiv(cs.CR 類別)的論文〈Agentic Backdoors via Pretraining Poisoning〉指出,攻擊者可在大型語言模型的預訓練資料中植入毒化內容,進而在部署後的 Agent 內植入遠端程式執行(RCE)後門,使其在使用者機器上執行攻擊者指定的指令。論文稱這是首次展示此類攻擊。
研究團隊從零預訓練 0.6B、1.7B、4B 三種規模的 Qwen3 模型,並以乾淨流程將各模型後訓練為 CLI Agent 進行端到端測試。結果顯示,僅將預訓練語料的 0.1% 替換為其提出的新型毒化設計,即可植入後門:觸發條件出現時 Agent 執行惡意指令,無觸發時對乾淨輸入表現正常。
攻擊成功率(ASR)隨模型規模增加而上升,4B 模型在 0.1% 投毒率下約達 92%;即使投毒率降到 0.0005%,攻擊仍保持正向效果。論文表示程式碼已公開。
此為單一來源,目前無其他媒體或官方佐證,數據屬論文自行實驗結果,尚未經獨立複現。
讀原始報導背景
大型語言模型通常在從公開網路爬取、未經篩選的大量資料上預訓練,攻擊者因此可能把惡意內容埋進預訓練資料中。另一篇 2026 年的整理文章指出,攻擊者可以把惡意文件注入預訓練語料,或植入後門的微調資料,讓模型在特定條件下出現潛伏行為。
社群討論
討論普遍認為此類 agentic backdoor 並非新觀念,但在開源模型上風險更值得警惕,因為權重不透明、訓練資料難以審計,而閉源廠商也同樣無法被驗證。多數人主張關鍵在於沙箱隔離與可觀測性,而非選擇哪種模型;也有人質疑研究是否藉機渲染開源危險、與 Anthropic 商業立場有關,並指出 0.1% 污染比例在大規模資料集中仍屬可觀,但觸發條件與實際攻擊回報是否划算仍待釐清。
來源
相關主題