Llama.cpp 釋出 0.2.0 版本，同步提供 b10566 預先編譯檔案

背景

llama.cpp 是一個以 C/C++ 撰寫的開源高效能推論引擎，專為執行 Llama 及相容的大型語言模型而設計。它建構於 GGML 張量函式庫之上，支援 CPU 與 GPU 混合推論，能處理超出顯示記憶體（VRAM）容量的模型。目前它已被廣泛視為幾乎所有本機端推論工具的核心標準。

這則事件的發展

1. 2026-08-22據報 llama.cpp 提交 PR 支援多模態 MoE 模型 dots3-note，具備 280B 參數與 512K 上下文
2. 2026-08-20llama.cpp 引入 DFlash2 投機解碼，Qwen 3.8 27B 本地推論速度最高提升 3 倍達 140 tok/s
3. 2026-08-18llama.cpp 提交自適應 MTP 模式 PR，動態調整預測深度使程式碼回溯最高提速 100%
4. 2026-08-10社群釋出 llama.cpp 修補程式修正 MTP 記憶體高估，AMD 雙卡執行 Qwen 27B 上下文從 64K 提升至 149K

來源

• github.com
• en.wikipedia.org
• huggingface.co