inclusionAI 開源原生語音語言 MoE 模型 Ming-3.0:推 126B Flash 與 9.3B Tiny 雙版本,採 MIT 授權
已查原文 · 4 項主張
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
經查證 inclusionAI 於 Hugging Face 及 GitHub 發布之官方模型卡與說明文件,Ming-3.0 原生語音語言 MoE 模型之發布規格、參數量(126B Flash 活化 6.5B、9.3B Tiny 活化 2.7B)、MIT 授權條款、各平台資源上架狀態、中英文口音支援、合成語音功能以及聲學感知與問答等各項報導主張,均與官方技術文檔相符。
inclusionAI 開源原生語音語言 MoE 模型 Ming-3.0,採 MIT 授權,並上架 GitHub、Hugging Face 與 ModelScope。
官方開源頁面與儲存庫說明證實,該系列為原生語音語言 MoE 架構,採 MIT 授權開源,並於 GitHub、Hugging Face 與 ModelScope 發布資源。
Mixture-of-Experts model
查看原始出處
License | MIT
查看原始出處
GitHub | · | 🤖 ModelScope
查看原始出處
Hugging Face
查看原始出處
Ming-3.0 推出雙版本:Ming-3.0-audio-flash 總參數量 126B、活化 6.5B;Ming-3.0-audio-tiny 總參數 9.3B、活化 2.7B。
官方模型卡參數規格確認,Flash 版本為 126B 總參數、活化 6.5B 參數;Tiny 版本為 9.3B 總參數、活化 2.7B 參數。
126B total parameters, 6.5B activated
查看原始出處
9.3B total parameters, 2.7B activated
查看原始出處
背景
inclusionAI 的 Ming-3.0 音訊系列架構結合音訊編碼器(audio encoder)、投影層(projector)與 Mixture-of-Experts(MoE)語言模型骨幹。該系列除了 Flash 版本外亦推出較精簡的 Ming-3.0-audio-tiny,並能透過選配的 Talker 模組將模型輸出直接生成為語音回覆。
來源
- Reddit r/LocalLLaMAreddit.com
- huggingface.co