Ollama v0.40.12 支援 Liquid AI LFM3 家族與 2B d1 決策模型,首波僅限 Apple 硬體
LFM3 採 tri-hybrid 架構並具備 256K 上下文,新版亦加速 Apple 晶片推論並支援 MLX 投機解碼。
GitHub ollama/ollama一手來源
56 則值得知道的變化
LFM3 採 tri-hybrid 架構並具備 256K 上下文,新版亦加速 Apple 晶片推論並支援 MLX 投機解碼。
支援最高 6 倍畫格生成與《NBA 2K27》,除降低 20% 的 4K 顯示記憶體需求,亦整合 4GB 本地端 AI 角色模型。
全系列由 1.7B 基座衍生出六款專用模型,4-bit 僅需 1 GB 記憶體並支援單卡微調,音訊首字延遲低至 50 毫秒。
導入 SR-SWA 架構降低冗餘計算,在多頁 MPDocBench 與百頁級 MarathonDocBench 分別取得 84.6 與 77.1 分。
鎖定模型路由與分類場景,實測延遲中位數 76 毫秒且成本節省 30 倍,但官方指其不擅長計數與日期比較。
該模型以逐幀運算即時產生場景與角色對話,由 Gemini 3.8 Flash 動態規劃任務,後續將開放 Google AI Ultra 訂閱者測試。
採 Apache 2.0 授權並支援 vLLM 與 llama.cpp,透過 DSpark 加速將端到端處理效率提升 55%。
該技術將長序列壓縮至 512 token 工作集,使推論解碼延遲與記憶體維持恆定,並在百頁評測中取得領先。
該模型支援以自然語言修改時序與風格,並能將參考影片轉為可編輯程式碼,後續預計推出 INT4 與 INT8 量化版本。