Meta 發布 30B 本地代理模型 Muse Glimmer：採 Apache 2.0 授權，4-bit 量化可於 24GB 單卡運行

Meta 發布專為本地 AI 代理工作流程最佳化的 30B 參數模型 Muse Glimmer，並首度捨棄過去 Llama 家族的 7 億用戶限制，改採無限制的 Apache 2.0 授權。該模型是 Meta 於四月推出的閉源模型 Muse Spark 的開源版本，透過 logit 蒸餾技術將大型教師模型的代理推理能力轉移至緊湊架構中，並支援超過 100 種語言。Muse Glimmer 具備端到端任務完成、精確工具呼叫、多步驟推理與錯誤自動重試能力，並內建專用感知編碼器以支援圖文交錯的多模態輸入。為適應消費級硬體，Meta 將模型權重進行約 4-bit 量化，使語言模型體積縮減至 20GB 以下（開發者實測約 18.16GB），確保在 24GB 或 32GB 記憶體的單張 GPU 上，能同時運行 KV cache、感知編碼器與推測解碼（Speculative Decoding）模組。在生成速度方面，其內建基於 DFlash 的輕量級草稿模型，可一次提出多個 token 區塊供主模型驗證；官方預計近日將完成 llama.cpp、MLX 與 ExecuTorch 的整合。在 DeepSearch QA、MCP-Atlas、𝛕-Bench 與 SWE-Bench 等代理基準測試中，Muse Glimmer 展現出對標同級別 Gemma4-31B 及 Qwen3.6-27B 的效能。