Meta 開源 30B 多模態代理模型 Muse Glimmer，經量化僅需 17GB 記憶體即可本地運行

Meta AI Research 宣布推出 300 億參數的開放權重模型 Muse Glimmer，採 Apache 2.0 授權，專為本地工作流與自主代理（Agent）設計。 該模型透過從旗艦模型 Muse Spark 進行 Logit 蒸餾訓練，並配備專用的 18 億參數感知編碼器，可原生處理交錯的圖文輸入（如截圖與圖表）。為解決 30B 模型高達 55GB 的記憶體需求，Muse Glimmer 採用 4 位元動態量化（K-Quant），將佔用空間降至 17 至 20 GB，適合配備 24 至 32 GB 記憶體的消費級硬體（如 RTX 4090/5090 或 M4/M5 Max Mac）。此外，透過 DFlash 推測解碼技術與草稿模型協同工作，生成吞吐量最高可提升 3.1 倍。 Muse Glimmer 具備長期規劃與故障恢復能力，當 API 呼叫出錯時能自動診斷並嘗試其他路徑。在 SWE-Bench、MCP-Atlas 等基準測試中，其多步工具呼叫與故障恢復表現優於同級的 Gemma 4 31B 與 Qwen 3.6 27B。模型權重已上架 Hugging Face，並原生支援 llama.cpp、Apple MLX、Ollama、vLLM 等本地部署框架。