模型發布
Moonshot AI 發布 2.8T 參數開源模型 Kimi K3,採 896 專家 MoE 架構與 1M Context Window
科技新報 AI多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。

中國 AI 公司 Moonshot AI 於 7 月 16 日推出開源模型 Kimi K3,總參數量高達 2.8T,為目前全球規模最大的開源模型。
Kimi K3 採用混合專家(MoE)架構,包含 896 個專家(每次啟用 16 個)與 2 個共享專家,有效參數量達 104B。規格方面,該模型支援 1M Context Window 與 MXFP4 精度;與 DeepSeek 的低成本策略不同,Kimi K3 較前代大幅推升了記憶體用量。
其核心技術涵蓋 MoonViT-V2、Hybrid KDA-MLA、Stable LatentMoE、AttnRes 及 Per-Head Muon (MuonClip)。其中 Muon 最佳化器亦為 DeepSeek V4 所採用,成為近期的共同技術趨勢。
讀原始報導背景
Kimi K3 採用的 MXFP4 精度屬於區塊浮點(Block Floating Point)技術,透過讓一組尾數共用單一指數,能在硬體中節省空間。此外,其搭載的 Muon 優化器過去在 Kimi 系列模型中便被用於提升 Token 效率,如今更成為與 DeepSeek V4 共通的技術趨勢。
來源
- TechNews 科技新報technews.tw
- en.wikipedia.org
- gist.github.com