模型發布
Ollama v0.40.12 支援 Liquid AI LFM3 家族與 2B d1 決策模型,首波僅限 Apple 硬體
GitHub ollama/ollama一手來源
核實資料不足
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
本次未取得足夠原文證據
Ollama 發布 v0.40.12 更新,正式支援 Liquid AI 旗下基於全新 tri-hybrid 架構打造的 LFM3 小型模型家族,以及 2B 規模的 d1 決策模型系列,首波僅限 Apple 硬體執行,Linux 與 Windows 支援預計近期推出。
LFM3 系列專為本地代理(agent)、工具呼叫與結構化輸出設計,包含具備 256K-token 上下文視窗的 1.7B 文字模型 lfm3、支援影像理解的 lfm3-vl、涵蓋 18 種語言語音辨識/翻譯/語音合成的 lfm3-audio,以及整合三模態的 lfm3-omni。基於 LFM3 開發的 d1 2B 決策模型支援文字與影像決策,d1-omni 則額外加入音訊能力。
此版本同時更新了 MLX 與 llama.cpp:在 Apple silicon 上加快 Gemma 4、Flint 與 Laguna 模型的 Prompt 處理速度,MLX 投機解碼(speculative decoding)新增支援 DFlash2 草稿模型,Gemma 4 提升了小尺寸圖像的細節保留度,`ollama launch` 支援 OpenCode v2,並修正了 Kimi CLI 僅含工具呼叫的 assistant 對話回合問題。
讀原始報導背景
推測解碼(Speculative decoding)是一種自回歸大型語言模型的推論最佳化技術,主要透過輕量且快速的草稿模型預測候選 token,再由目標模型於單次前向傳播中完成平行驗證。這種方法旨在突破自回歸模型循序解碼的延遲瓶頸,在不改變模型原始輸出品質的前提下顯著提升生成速度。