GGUF
5 則報導橫跨 5 期2026-08-07 起
2026-09-19Reddit r/LocalLLaMA
開源推理引擎 Flyweight 發布:單 GPU 結合系統 RAM 運行大型 MoE 模型,支援動態記憶體分配
2026-09-05Reddit r/LocalLLaMA
開發者推出三元模型專用 GGUF 格式 Q2_B3,透過 Base-3 打包無損降低 22% VRAM 佔用
2026-08-29Reddit r/LocalLLaMA
開發者審計 443 個 GGUF 模型:64 個實際精度與檔名不符,llama.cpp 靜默替換導致 IQ2 膨脹至 4.5 bpw
2026-08-20Hacker News
Unsloth 發布 Dynamic 3.0 GGUF 量化技術,Qwen3.8-27B 同體積準確率提升逾 10%
2026-08-07Reddit r/LocalLLaMA