vllm
13 則報導橫跨 13 期2026-07-27 起
2026-11-17GitHub vllm-project/vllm
vLLM v0.34.0 發布:預設啟用可擴充 KV 快取、移除 Model Runner V1,並新增 Mistral Large 4 等 10 款模型
2026-11-03GitHub vllm-project/vllm
vLLM v0.33.0 發布:新增 Reflection Beam-1.0、Step-5 等多款模型,改用 PyTorch 2.14 並移除 CUDA 12.9
2026-10-27Hacker News
Ubicloud 實測 vLLM 0.31 約束解碼:Kimi 與 DeepSeek 工具調用 Schema 準確率達 100%
2026-10-19GitHub vllm-project/vllm
vLLM 發布 v0.32.0:引進 Model Runner V2、全面擴展 NVFP4/FP8 快取並棄用 Python 3.10
2026-10-06GitHub vllm-project/vllm
vLLM 發布 v0.31.0:針對 DeepSeek-V4.1-Flash 效能最佳化,並推出 GPU 權重快取快速重啟功能
2026-09-30Reddit r/LocalLLaMA
vLLM 獲社群支援專家記憶體卸載,實測可於四張 R9700 運行 DeepSeek-V4
2026-09-23GitHub vllm-project/vllm
vLLM 發布 v0.30.0:支援 DeepSeek-V4.1-Flash 等模型,引入 Fast Start 權重快取與 HiSparse 架構
2026-09-10GitHub vllm-project/vllm
vLLM 發布 v0.29.0:預設啟用 MRV2,並支援 Hy4-preview、Qwen3.8 與 Kimi K3 等未曝光模型
2026-08-27GitHub vllm-project/vllm
vLLM 發布 v0.28.0:深度最佳化 Kimi-K3 與 DeepSeek V4 推論,並支援磁碟 KV 快取卸載
2026-08-16Reddit r/LocalLLaMA
據 Reddit 實測 Apple Silicon 推論生態:框架碎片化嚴重,mlx-lm 轉換 Qwen 會遺失 MTP head
2026-08-11GitHub vllm-project/vllm
vLLM 發布 v0.27.0:全面支援 Kimi K3 與 Qwen3.5,並針對 DeepSeek-V4 進行效能最佳化
2026-08-07Reddit r/LocalLLaMA
開發者將 vLLM 移植為 C++20 版本 vllm.cpp:免 Python 依賴,編譯體積僅 66 MiB
2026-07-27GitHub vllm-project/vllm