阶跃星辰開放 Step 5 Preview 權重:600B 稀疏 MoE、百萬上下文,華為、沐曦、壁仞、摩爾線程首發 0Day 支持
權重提供 BF16 與 FP8 兩版,每 token 激活 27B 參數,支援 100 萬 token 上下文;華為昇腾並同步上線 1024 卡 Atlas 950 SuperPoD。
49 則值得知道的變化
權重提供 BF16 與 FP8 兩版,每 token 激活 27B 參數,支援 100 萬 token 上下文;華為昇腾並同步上線 1024 卡 Atlas 950 SuperPoD。
模型以 42B 活躍參數運作、支援音訊與影片感知,NVIDIA 另提供 NVFP4 權重與 NIM 容器,便於在 Blackwell Ultra 上部署。
Super VL 以約五分之一參數量達到接近最大推理模型的準確度,同級開放模型中代理任務吞吐量宣稱最高達 5 倍,Bolt E4B 將於 10 月 23 日推出。
此版把主機記憶體中的 MoE 專家經 LRU 快取搬上 GPU,`--moe-cache-mib` 可讓解碼最高約 2.2 倍加速;預設埠改為 9931,伺服器 API 同步重構。
8B 與 30B 兩款模型內建通用決策與安全守護 aLoRA,以及 OpenASR 榜上最快的 Granite-Speech-5.0-Turbo-CTC,佔用 VRAM 約等同基礎模型。
權重經 MXFP4 量化後由約 534GB 降至 292GB,8 卡部署可縮至 4 卡;官方另提供限時 2.5 折線上價格。
在單張消費級顯卡上實現即時互動,端到端延遲低於 150 毫秒、單步去噪穩態 83 FPS、顯存峰值 18.5 GiB,程式碼與權重同步開放。
此為單一 Reddit 來源提出的消息,尚未獲官方原文佐證;若屬實,這是專為程式設計優化的本地部署 MoE 模型,活躍參數僅 6.8B。
此系列為 120B 總參數、12B 活躍參數的視覺語言模型,涵蓋基礎版與多種量化及推測解碼變體。
團隊在 Bench-Corp 與 AgentThreatBench 測得攻擊成功率 0%、任務完成率 89%,優於 Claude Code 自動模式的 10% 與微軟 FIDES 的 31%。
作者稱 Muse Glimmer 30B NVFP4 在 GPQA-Diamond 達 63.6,略高於 BF16 的 62.1,所有數據均待獨立驗證。
據 Reddit 網友測試,新模型可在標準 llama.cpp 上運行,並宣稱支援 dFlash、MTP 與 MLX,尚待實測驗證。