vllm
6 則報導橫跨 6 期2026-07-27 起
2026-09-10GitHub vllm-project/vllm
vLLM 發布 v0.29.0:預設啟用 MRV2,並支援 Hy4-preview、Qwen3.8 與 Kimi K3 等未曝光模型
2026-08-27GitHub vllm-project/vllm
vLLM 發布 v0.28.0:深度最佳化 Kimi-K3 與 DeepSeek V4 推論,並支援磁碟 KV 快取卸載
2026-08-16Reddit r/LocalLLaMA
據 Reddit 實測 Apple Silicon 推論生態:框架碎片化嚴重,mlx-lm 轉換 Qwen 會遺失 MTP head
2026-08-11GitHub vllm-project/vllm
vLLM 發布 v0.27.0:全面支援 Kimi K3 與 Qwen3.5,並針對 DeepSeek-V4 進行效能最佳化
2026-08-07Reddit r/LocalLLaMA
開發者將 vLLM 移植為 C++20 版本 vllm.cpp:免 Python 依賴,編譯體積僅 66 MiB
2026-07-27GitHub vllm-project/vllm