跳到主要內容
2026-09-28 日報
開發生態

Reddit 網友宣稱 llama.cpp 的 Prompt Lookup Drafting 效能提升 42 倍

Reddit r/LocalLLaMA單一來源
核實資料不足

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

本次未取得足夠原文證據

據 Reddit r/LocalLLaMA 社群貼文,網友 Available_Pressure47 宣稱在 llama.cpp 中實現了 42 倍速的 Prompt Lookup Drafting 效能提升。由於目前僅有單一社群來源,缺乏具體的硬體測試條件、模型規格與程式碼實作細節,該項效能數據尚未經證實。
讀原始報導

這則事件的發展

  1. 2026-09-27據報開發者最佳化 llama.cpp 的 prompt lookup decoding,草稿生成速度最高提升 140 倍
  2. 2026-09-19開發者釋出 llama.cpp 分支,透過專家串流讓 64GB Mac 以 27 tok/s 運行 95.5GB Qwen3.8-Flash-Next
本期分類