模型發布
Axion 1.0 開源 35B 代理模型:三階段訓練、公開完整配方
Reddit r/LocalLLaMA單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據
據 Reddit r/LocalLLaMA 一則轉貼(內容取自 Hugging Face 模型頁說明,目前僅此單一來源,尚未獨立證實),Axion-1.0-35B 是一款自稱完全開源的代理(agent)基礎模型。作者宣稱它以精簡的訓練流程達到廣泛的代理能力,全程只有三個階段:兩個輕量的監督式微調(SFT)加上一個強化學習(RL)階段,未使用中期訓練(mid-training)、直接偏好最佳化(DPO)或同策略蒸餾(OPD)。
第一階段 SFT 著重自含式推理,依據基礎模型自身成功的解題策略合成較難的題目,並加以對抗式強化。第二階段將能力延伸至依賴工具的推理,透過可自動驗證的任務管線建構任務,任務以真實世界資料來源與確定性計算為基礎。RL 階段則進一步強化長程推理,以及與外部工具和環境的互動。
作者稱 Axion 1.0 在多項代理評測中表現強勁,並在其中幾項與領先商用模型相當。不過文中未附具體分數或評測條件,目前無法據此比較。
在開放範圍上,作者表示不只釋出權重,還公開完整配方,包括資料構建、生成、過濾、驗證、提示詞與訓練程式碼,以便重現與延伸。相關資源包括論文(arXiv:2611.03233)、訓練資料集(Hugging Face)、GitHub 倉庫(網址位於 bytedance 名下)與專案頁。
讀原始報導背景
Axion 1.0 的訓練流程沒有使用 DPO 與 OPD。DPO(Direct Preference Optimization)是一種微調語言模型的方法,搜尋結果指出它穩定、運算輕量,且在微調時不需要從語言模型取樣,也不必做大量超參數調整。OPD(On-policy distillation)則是相對於傳統資料集導向知識蒸餾的動態作法,綜述文章認為它與離線方法有不同的理論保證與失效模式。