開源推理框架 Colibrì 支援將 SSD 當顯示記憶體，無 GPU 筆電可運行 744B GLM-5.2 與 2.8T Kimi K3 模型
該純 C 語言框架針對 MoE 架構設計，將常駐權重留存記憶體並動態從 SSD 讀取路由專家，GLM-5.2 在 128GB 記憶體下速度約 1.8 token/s。
量子位單一來源
完整日報
AI 日報 2026-09-27
34 則值得知道的變化
要聞
3 則研究與評測
2 則研究提出 DISCO 分散式長上下文架構，分離提取與推理任務，百萬 token 準確率達 78.4% 並降本 80%
該架構借鑒 Apache Spark，由 Worker 模型平行處理局部上下文，再由 GRPO 訓練的 Driver 模型統整證據，在 LongBench v2 評測提升 9.8 分。
HF Daily Papers一手來源
Privatemode 開源決策模型轉換方案，讓 GLM-5.3-Flash 實現單次前向傳遞輸出選項機率
該方案無需微調，透過預填提示詞與 vLLM 讀取特定 token 機率，使語言模型達到與 Jev 相當的決策速度與準確度，並額外支援圖像輸入。
Hacker News單一來源