SGLang
5 則報導橫跨 5 期2026-07-25 起
2026-09-18AI 前線
LinkedIn 公布基於 SGLang 的多教師蒸餾框架：將 8B 模型知識壓縮至 600M 排序模型，訓練提速 8 倍
2026-09-09Reddit r/LocalLLaMA
網友實測 Qwen3.8-Flash-Next 推論引擎：262K 滿載 SGLang 首字延遲 35 秒，較 llama.cpp 快 7.3 倍
2026-08-21HuggingFace Blog
LiquidAI 發布 LFM2.5-DSpark 推測解碼模型，GPU 推論最高加速 3.18 倍並首日支援 SGLang 與 llama.cpp
2026-08-09GitHub sgl-project/sglang
SGLang 發布 v0.5.17，首日支援 2.8T 參數 Kimi K3 與 MiniMax-H3 影音生成模型，並初步導入 Rust 前端
2026-07-25GitHub sgl-project/sglang