研究與評測
〈AI Models Can Provably Hide Arbitrary Capabilities〉稱 AI 模型可用加密後門隱藏任意能力
Hacker News單一來源
核實資料不足
目前依單一來源整理，這是來源數量描述，不是對消息真假的判定。
本次未取得足夠原文證據
一篇於 2026 年 10 月 9 日提交至 arXiv 的論文〈AI Models Can Provably Hide Arbitrary Capabilities〉主張，AI 模型能把加密神經網路嵌入宿主模型權重，只有收到秘密觸發器後才解密並執行，藉此隱藏任意計算能力。論文稱，透過數位鎖定機制，在加密假設下，即使取得完整模型權重，這些隱藏電路仍難以被引出或解讀。研究以小型化學反應預測任務作為與 CBRN 相關能力的代理測試，評估微調、權重加噪、以梯度搜尋觸發器，以及潛在對抗訓練等方法；摘要稱模型能抵抗這些揭露手段。論文據稱已用 PyTorch 實作概念驗證，並釋出模型以協助改進防禦方法。上述結論目前來自單一 arXiv 材料，尚未有佐證來源，不能視為已獨立驗證的事實。
讀原始報導背景
能力評估通常試圖在模型部署前誘發潛在的危險行為，但這類方法仰賴隱藏能力能被找出的前提。這篇研究探討以 cryptographic backdoor 將加密的神經網路嵌入模型權重，只有收到秘密觸發條件才解密並執行，且即使取得完整權重，也可能難以從模型中誘發或解讀這些能力。
社群討論
整體認為研究展示了模型權重可透過特定輸入觸發被隱藏或加密的能力，並引發對 open-source 模型、資料污染與 sleeper agent／backdoor 的安全疑慮；有留言分享約 1B 模型曾在 800 次推論中回憶特殊答案 100 次，持續訓練後降至 50、10、0 次卻又少量自發重新出現。反對與保留意見則指出這只是可被直接偵測、可能經 fine-tuning 或 abliteration 破壞的 demo，標題把「作者以加密方式藏入能力」說成模型自行隱藏並不準確，且若模型已充分對齊，隱藏能力未必構成危害。
來源
相關主題