openbmb MiniCPM-V-4.7-35B-A3B 據報開源，iPhone 17 Pro Max 解碼逾 13 tokens/s

Reddit r/LocalLLaMA 一則貼文轉引 Hugging Face 模型頁面資訊，稱 openbmb 推出 MiniCPM-V-4.7-35B-A3B；該模型是 MiniCPM-V 系列首個 35B-A3B MoE 版本，支援單張、多張影像與影片理解。模型頁面宣稱，透過 Lookahead Expert Scheduling（LES）、分層量化與 DSpark speculative sampling，在 iPhone 17 Pro Max 上可達 13+ tokens/s，並主打不犧牲效能的裝置端推理；上述發布與效能說法目前只有單一 Reddit 來源，未獲其他來源佐證。 該模型採用源自 LLaVA-UHD v4 的 intra-ViT early compression，並支援 4x／16x 混合視覺 token 壓縮；模型頁面另稱其 Instruct 模式在較短推理時間內取得高於 Qwen3.6 35B-A3B 的整體分數，但未提供具體分數。部署方面支援 iOS、Android、HarmonyOS，以及 Rockchip、Houmo、Intel、AMD 和 Arm 晶片平台；開發工具涵蓋 SGLang、vLLM、llama.cpp、Ollama，微調框架則包括 SWIFT 與 LLaMA-Factory。模型另提供 GGUF、BNB、AWQ、GPTQ 量化版本、FP8 量化支援，以及名為 Self-Replay Fine-Tuning 的微調方法。