跳到主要內容
2026-11-02 日報
開發生態

開源模型修改工具 Heretic 2.0 發布,引入 ARA 取代傳統 abliteration 並改採外掛架構

Reddit r/LocalLLaMA單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

開源模型轉向與去審查工具 Heretic 開發者在 Reddit 社群公布 2.0 大版本更新,將預設核心技術由傳統定向消融(Directional abliteration)更換為自主開發的任意秩消融(Arbitrary-Rank Ablation, ARA)。傳統消融假設拒絕表徵侷限於殘差空間中的單一方向(rank-1 子空間),而 ARA 則打破固定秩限制,以目標函數要求有害提示詞在殘差空間的表徵貼近無害提示詞,同時維持無害提示詞表徵穩定,並搭配 L-BFGS 最佳化器逐一修改權重矩陣進行微訓練。經典定向消融仍保留為備用選項。 系統架構在 2.0 版全面改寫為外掛設計,拆分為定義最佳化目標的 Scorer 外掛與實作轉向機制的 Modifier 外掛,開發者可直接透過 Python 檔案載入。此外,新版新增非互動式執行模式以支援端到端自動化測試,並加入對超連接(hyper-connections)架構與思考模型的支援,同時相容 LoRA 機制。需要注意的是,Heretic 2.0 無法向下相容 1.x 版設定檔,舊用戶需依遷移指南調整。據開發者公布的數據,該專案在 GitHub 獲 3.7 萬星,Hugging Face 上已有超過 8,500 個衍生模型與 8,800 萬次下載;其用途也由單純移除模型審查,擴展至抑制冗長廢話與降低諂媚傾向等行為修改。
讀原始報導

背景

傳統的 abliteration(消融)技術是一種無需重新訓練模型,便能在矩陣層級定位並切除內部拒絕向量,藉此移除大型語言模型內建拒絕機制的技術。這類方法能消除模型的安全過濾器,過去常被用於開發去除審查限制的開源語言模型。

來源