模型發布
Reddit 貼文稱 OpenBMB MiniCPM-V 4.7 可在約 3GB 記憶體手機運行 35B-A3B 多模態模型
Reddit r/LocalLLaMA單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據
Reddit r/LocalLLaMA 一則未經驗證的貼文分享 OpenBMB MiniCPM-V 4.7 示範,稱一個 35B-A3B MoE 視覺語言模型可在手機上本機運行,原標題並指約需 3GB 記憶體;貼文未提供可獨立核對的實測環境或效能數據。貼文列出的用途包括閱讀現實標誌、理解複雜文件、視覺資訊推理,以及依現實限制進行規劃。其提到的 LES(Lookahead Expert Scheduling)會預測並預先載入 MoE 專家,以降低推論瓶頸,而非僅縮小模型。OpenBMB 另提供 MiniCPM-V 4.7 1B,面向資源更受限的裝置;SRFT(Self-Replay Fine-Tuning)則主打讓開發者針對特定任務微調模型,同時保留一般能力。這些內容目前僅來自單一 Reddit 貼文,沒有其他佐證來源。
讀原始報導背景
MoE 模型在推論時需要管理不同專家的資料移動;相關研究提出以多步 lookahead 與 Expert Lookahead Buffer(ELB),搭配分層、具熵感知的快取策略來排程專家。SRFT 的相關論文則將其描述為結合 supervised 與 reinforcement fine-tuning、用於 reasoning 的 single-stage 方法。