GGUF
10 則報導橫跨 8 期2026-08-07 起
2026-11-14Reddit r/LocalLLaMA
nace.ai 釋出 Qwen 系列量化 GGUF:稱採權重空間編程使 KL 散度提升達 2 倍
2026-10-03Reddit r/LocalLLaMA
llama.cpp 提交 PR 支援 /v1/systemone API 與 OpenJev、Julia-1 等六款新模型
2026-09-23Reddit r/LocalLLaMA
K2-Horizon 系列模型 GGUF 量化版釋出,需搭配分支版 llama.cpp 運行
2026-09-23Reddit r/LocalLLaMA
開源工具 Dynamic Quantiser 釋出:無須校準資料即可自訂 GGUF 動態量化,精準度優於標準 K 量化
2026-09-23HuggingFace Blog
Hugging Face Transformers 原生支援 llama.cpp GGUF 量化模型,初期專注 Apple Silicon 部署
2026-09-19Reddit r/LocalLLaMA
開源推理引擎 Flyweight 發布:單 GPU 結合系統 RAM 運行大型 MoE 模型,支援動態記憶體分配
2026-09-05Reddit r/LocalLLaMA
開發者推出三元模型專用 GGUF 格式 Q2_B3,透過 Base-3 打包無損降低 22% VRAM 佔用
2026-08-29Reddit r/LocalLLaMA
開發者審計 443 個 GGUF 模型:64 個實際精度與檔名不符,llama.cpp 靜默替換導致 IQ2 膨脹至 4.5 bpw
2026-08-20Hacker News
Unsloth 發布 Dynamic 3.0 GGUF 量化技術,Qwen3.8-27B 同體積準確率提升逾 10%
2026-08-07Reddit r/LocalLLaMA