跳到主要內容
2026-10-31 日報
模型發布

Unsloth 發布 DeepSeek-V4.1 動態量化 GGUF:稱 64GB 記憶體可跑且評測勝過 GSQ-RCO

Reddit r/LocalLLaMA單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

Unsloth 團隊在社群發布 DeepSeek-V4.1-1017 Dynamic V3.1 預覽版 GGUF,宣稱新版量化權重在同等容量下具備更高精確度。團隊指出,該模型可在 128GB 統一記憶體裝置上運行,若搭配 engram offloading 技術,門檻可進一步下探至 64GB RAM。 在評測表現上,Unsloth 聲稱無法重現 ISTA 所發布 GSQ-RCO GGUF 的宣稱數據,特別是 ISTA 宣稱 AIME25 達 100% 基準精度恢復,但實測僅約 91.88%。Unsloth 透過多次測試取平均值(AIME25 測試 16 次,其餘基準至少 3 次):容量 250.4GB 的 UD-IQ1_M 在 6 項基準測試平均達 85.55 分、AIME25 得 95.00 分、Aider pass@1 達 42.13;對比 231.3GB 的 GSQ-RCO IQ1_M,其 6 項平均為 81.78 分、AIME25 為 91.88 分、Aider 僅 29.78。容量 300.5GB 的 UD-IQ2_XXS 六項平均則達 86.63 分。 團隊指出,測試顯示低位元量化模型的思考時間會略長於未量化模型,未來將持續改善推論長度。此外,Unsloth Desktop 亦同步加入 Browser Use、自動壓縮、沙箱以及具備聲音複製的 TTS 管線功能。
讀原始報導

這則事件的發展

  1. 2026-10-25ISTA 釋出 DeepSeek-V4.1 量化 GGUF:宣稱 2.00 bpw 效能無損,單張 12GB 顯卡可運行
  2. 2026-10-19社群傳 DeepSeek V4.1 Flash 1017 於 Agent 任務超越更大型模型,並大幅壓低任務成本