SGLang 推出多模態與語音推論框架 SGLang-Omni，首日支援 MiniMax Music 3 與 Qwen3-Omni
主打多階段解碼與專屬排程，提供相容 OpenAI 的 API，首日即支援 MiniMax Music 3，最高可生成長達 5 分鐘的完整歌曲。
GitHub Trending (python)單一來源
完整日報
AI 日報 2026-08-16
26 則值得知道的變化
26 則值得知道的變化
主打多階段解碼與專屬排程，提供相容 OpenAI 的 API，首日即支援 MiniMax Music 3，最高可生成長達 5 分鐘的完整歌曲。
Vera Rubin 導入 CMX 技術處理 KV 快取，單一機櫃組需高達 9.6PB 的 TLC 快閃記憶體，龐大儲存需求帶動現貨市場供應收緊。
實測指出 Mac 缺乏能整合前綴快取與預測解碼的單一框架，目前 vllm-metal 最接近完整堆疊，呼籲社群停止分岔專案並集中資源。