跳到主要內容
2026-10-23 日報
模型發布

Ollama v0.40.9 推出 Phonon 語音生成與 2B 至 27B 的 d3 決策模型,Flint 擴及 Linux 與 Windows

GitHub ollama/ollama一手來源
核實資料不足

來源為發布方或研究資料;不代表所有主張已獲獨立核實。

本次未取得足夠原文證據

Ollama v0.40.9 在 Apple Silicon 上加入語音生成功能,由 Phonon 提供技術。執行 ollama run 時,文字或聊天模型的回覆會在音訊生成的同時播放出來,應用程式也可透過與 OpenAI 相容的 /v1/audio/speech 端點串流取得音訊。 d3 是把 vLLM Semantic Router 的決策模型引入 Ollama 的模型家族,共有 2B、4B、9B、27B 四種尺寸。輸入可以是文字、結構化狀態或圖片,模型可以進行分類、回答是或否,也能以機率為選項評分。官方範例是判斷客服訊息「信用卡被重複扣款」是否屬於帳務問題。 Flint 原本只支援 macOS,本版起也能在 Linux 與 Windows 上執行。 其他改進包括:串流的 OpenAI Responses 與 Anthropic Messages 請求在生成失敗時會回報錯誤,不再於部分輸出後無聲結束;ollama launch 會把雲端模型的上下文長度與能力傳給程式開發工具,修正上下文與壓縮設定錯誤的問題;與 Anthropic 相容的網路搜尋,在後續請求中會沿用模型支援的思考設定,避免可預防的失敗。
讀原始報導

背景

vLLM Semantic Router 是一個開源專案,會依照使用者設定的政策,為每次呼叫挑選或組合模型,讓代理程式框架透過單一 API 使用多種模型。Router 可以在本地、私有及雲端等不同後端之間做選擇。本則新聞提到的 d3 決策模型,正是來自這個專案。

來源

相關主題