跳到主要內容
2026-11-07 日報
模型發布

中國電信開源 Xing4.0-29B-A4B MoE 模型,原生支援 256K 上下文且全由華為昇騰平台訓練

Reddit r/LocalLLaMA單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據開源社群及 Hugging Face 釋出資訊顯示,中國電信人工智慧科技(前身為 TeleChat 系列)推出新一代開源模型 Xing4.0-29B-A4B。該模型採用 MoE 架構,總參數為 29B、每個 token 僅啟動 4B,隱藏層維度(Hidden Size)為 3584、共 40 層,配置 64 個路由專家(每 token 啟用 4 個)與 1 個共享專家;模型採用 MLA 注意力機制與 mHC + MLA + MTP 架構,原生支援 256K 上下文長度,最高可擴展至 512K。 開發團隊宣稱,該模型為首個完全在華為昇騰(Ascend)NPU 平台與 MindSpore 框架上訓練的同規模模型。藉由針對 Ascend 910C 集群進行細粒度 MoE 通訊最佳化、選擇性重計算、DVM 自動圖算融合以及 Ascend C mHC 融合算子開發,整體訓練吞吐量比預設效能提升約 96%。在軟體生態方面,微調支援 LLaMA-Factory 與 MindFormers,推論部署支援 SGLang、vLLM 與 KTransformers,並針對 OpenCode、Claude Code、OpenClaw 等代理框架進行格式對齊,社群亦已釋出 GGUF 權重版本。 材料揭露的評測數據顯示,Xing4.0-29B-A4B 在 SWE-bench Verified 分數為 75.00、Terminal-Bench 2.1 為 57.50、AIME2026 為 90.00、IFBench 為 69.67;惟比對基準中包含部分尚未公開的模型與未來基準名稱,相關實測數據目前仍屬社群流出與官方自我揭露階段,尚未獲第三方完全驗證。
讀原始報導