模型發布
Nace AI 開源四款 Drex 決策模型:捨棄自迴歸改採單次輸出,宣稱典型延遲僅 183 毫秒
Reddit r/LocalLLaMA單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據 Nace AI 團隊在 Reddit 發布的技術報告與 AMA 說明(目前未經獨立驗證),該團隊開源了名為 Drex 的四款專用決策模型。與傳統自迴歸模型不同,Drex 接收文件、紀錄或 Agent 上下文與問題選項後,以單次傳遞(single pass)直接輸出各選項的機率分佈,無需自迴歸解碼與字串解析步驟。
該系列涵蓋四種不同骨幹架構:Drex DLM(8B)採用擴散 LM 骨幹搭配雙向注意力機制;Drex v1.5(9B)基於 Gated DeltaNet 混合架構;Drex v2.0(35B)為稀疏 MoE 架構,每次僅啟動 3B 參數;Drex Max(27B)則是包含影像編碼器的稠密多模態模型。前三款指標模型(pointer models)會將狀態編碼一次並快取,各問題可共用該狀態,再經由指標頭為選項評分;Drex Max 則透過線性讀出頭直接輸出選項代碼。
在訓練方面,團隊使用 115 萬筆驗證決策紀錄(共 290 萬道問題)進行全參數 SFT,並搭配針對選項重排進行懲罰的一致性訓練,使選項順序翻轉率從 6.3% 降至 4.2%;隨後引入基於調整後反饋的強化學習(RLAF),使 Decision Index 提升 2.0 分、校準誤差降低 0.9 個百分點。
根據團隊公布的測試數據,Drex Max 在 Decision Index 0.4.1 公開評測取得 67.52 分(對照 Jev 1.14.0 為 60.70 分),典型請求反應時間為 183 毫秒(報告中亦列出與 GPT-6 Sol、Claude Opus 5.5 等對照組的延遲數據);上下文長度方面,v1.5 與 v2.0 支援最高 131K tokens,Max 支援最高 262K tokens。團隊亦坦承該系列閉卷知識落後於通用對話模型。目前模型已釋出 safetensors 與 GGUF 格式,支援 llama.cpp 與 Ollama 本地部署,主打 Agent 路由與工具選用場景。
讀原始報導