模型發布
阿里開源 2.4T 參數 MoE 模型 Qwen3.8-2.4T-A95B,Flag OS 首日完成 9 款 AI 晶片適配
AI 科技評論單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據報導,阿里巴巴開源旗下規模最大、能力最強的純文字 MoE 模型 Qwen3.8-2.4T-A95B,總參數達 2.4T,啟動參數為 95B。該模型原生支援 262,144 tokens,最高可擴展至 1,010,000 tokens,並提供 BF16 與 FP8 權重,相容 vLLM、SGLang 與 Token Speed 等推論框架。
在功能上,Qwen3.8 支援透過 `reasoning_effort` 調整推論深度,以及 `preserve_thinking` 保留歷史推論。在 Coding Agent 基準測試中,Qwen3.8-Max 效能大幅提升:SWE-bench Pro 達 67.7(接近 Opus 4.8 的 69.2),Paper Bench 達 93.0(超越 Opus 4.8 的 80.3),Terminal Bench 2.1 則從前代的 74.5 升至 86.6。
智源 Flag OS 社群同步完成該模型的 Day0 多晶片適配,涵蓋 NVIDIA、華為昇騰、平頭哥、摩爾線程、沐曦、昆侖芯、海光、清微智能與燧原等 9 家 AI 晶片。由於 Qwen3.8 參數規模較 Qwen3.5-397B 擴大 6 倍,Flag OS 透過 Flag OS-Compressor 工具鏈新增 W8A8 量化支援,將權重與啟動值由 BF16 壓縮至 INT8。此舉大幅降低顯示記憶體與記憶體存取壓力,解決了目前逾 80% 既有 AI 算力不支援 FP8 的問題,且量化後的跨晶片推論誤差與 NVIDIA 原生 CUDA FP8 版本對照均在對齊區間內。目前,騰訊雲 HAI 社區與超算互聯網等平台已將適配後的容器映像檔上架供開發者部署。
讀原始報導