模型發布
Blockway 發表 Agens Volundr 32B v1 與開源引擎:混合架構支援 16GB 記憶體跑 262K 上下文
Reddit r/LocalLLaMA單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
開發團隊 Blockway 於社群發布開源模型 Agens Volundr 32B v1 與 MIT 授權的推論引擎 Agens Engine,聲稱已解決先前預覽版的死迴圈與長上下文推論問題。在 50 項 SWE-bench 任務測試中,重複迴圈問題由 36 次降至 0 次,推論步數中位數為 120 tokens,SWE-bench Verified 答對題數由 22 題增至 27 題,平均任務耗時自 124 分鐘降至 82 分鐘。
Agens Engine 專為該模型的混合架構設計,全網 72 層中僅 18 層保留 KV 快取,其餘 54 層維持固定大小狀態。團隊稱相同 INT4 權重下,單串流解碼速度較其自家 SGLang 建置提升 1.4 至 1.6 倍。針對消費級硬體,團隊釋出約 2.85-bit 混合量化的 Agens-Volundr-32B-v1-Engine-16GB 建置版,宣稱能在 16 GB 記憶體預算內達到 262K 上下文視窗(實測達 239K),但此數據是在 48 GB 顯示卡上設置 16 GiB 硬性上限測得,非實際 16 GB 顯示卡,且需 Linux 與 CUDA 12.9 環境。效能方面,該模型在 LiveCodeBench v6 獲得 67.9 分,AIME 2025 獲得 80.0 分。
讀原始報導背景
SWE-bench 是一項專門評測大型語言模型與程式代理的基準測試,使用取自 12 個真實 Python 開源專案的修復任務來衡量程式解決能力。SGLang 則是由 LMSYS 等機構開發的開源語言模型推論與服務框架,結合結構化生成語言與推論 Runtime,以提供低延遲與高吞吐量的推論表現。