跳到主要內容
2026-10-20 日報
開發生態

llama server 自 v0.7.0 起將預設連接埠由 8080 改為 9931

Reddit r/LocalLLaMA單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據 LocalLLaMA 社群引述的釋出紀錄與 PR 資訊,llama server 自 v0.7.0 起將預設連接埠從原先的 8080 更改為 9931(代表 ggml)。此調整屬於破壞性變更,升級時若未明確指定連接埠參數,或串接工具在程式碼中硬編碼了 8080 埠,連線呼叫將會失敗中斷。
讀原始報導

這則事件的發展

  1. 2026-10-16llama.cpp v0.7.0 發布:新增 MoE 專家 GPU 快取(解碼最高約 2.2 倍)與 LiliCorr 推測解碼,並擴充多款模型支援
  2. 2026-10-12Reddit 使用者稱 llama.cpp 合併 probabilistic MTP 解碼改進,文字生成速度提升約 14%
  3. 2026-10-08llama.cpp 提交 PR 為主機記憶體中的 MoE 專家新增 GPU 快取,有望提升 VRAM 不足時的推論速度
  4. 2026-10-07llama.cpp 提交 PR 引入 -sm tensor 參數,透過 RPC 支援跨機器張量平行運算
  5. 2026-10-06llama.cpp 釋出 v0.6.0,支援 Qwen4Exp 的 MTP 推測解碼
本期分類
相關主題