模型發布
月之暗面推出開源 Kimi K3
INSIDE
月之暗面(Moonshot AI)推出旗艦模型 Kimi K3,採用 2.8 兆參數 MoE 架構,原生支援視覺理解與 100 萬 token 上下文。K3 在 Frontend Code Arena 以 1679 分登上第一,完整權重預計最遲於 7 月 27 日釋出。官方同時承認,其整體使用者體驗仍落後 Claude Fable 5 與 GPT-5.6 Sol,且有推理 token 消耗高、執行較慢與過度主動等限制。
讀原始報導背景
MoE(Mixture of Experts,混合專家模型)是一種模組化、稀疏啟動的深度學習架構,用來減輕大型模型擴展參數規模時的計算與儲存壓力。Kimi Delta Attention(KDA)則是為 Transformer 設計的注意力機制,透過線性擴展支援超長上下文與多模態整合。
這則事件的發展
來源
- 科技新報 AItechnews.tw
- InfoQ 中國infoq.cn
- 鈦媒體tmtpost.com
- hao.cnyes.com
- emergentmind.com