Ollama 發布 v0.40.11:支援 macOS 原生語音生成,並引進 vLLM 2B 至 27B d3 決策模型
已查原文 · 4 項主張
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
經核對 Ollama 官方 GitHub 發布頁面(v0.40.11),報導所述重要主張均有官方公告支持:macOS 平台新增語音生成功能,支援終端機朗讀與 OpenAI 相容端點串流;此外亦正式引進 vLLM Semantic Router 的 d3 系列決策模型(涵蓋 2B、4B、9B 與 27B 四種規模),支援多模態輸入與各類決策任務。
Ollama 釋出 v0.40.11 版本,在 macOS 平台支援語音生成功能。
官方釋出公告明確指出 Ollama 現已支援在 macOS 平台生成語音。
generate speech on macOS
查看原始出處
使用者執行 ollama run 可即時朗讀回覆,應用程式可透過 OpenAI 相容端點 /v1/audio/speech 串流音訊。
官方公告證實 ollama run 可在音訊生成時朗讀回覆,並提供相容 OpenAI 的 /v1/audio/speech 端點供串流。
/v1/audio/speech endpoint
查看原始出處
引進 vLLM Semantic Router 的 d3 決策模型,包含 2B、4B、9B 與 27B 四種參數量級。
官方公告確認導入 vLLM Semantic Router 的 d3 決策模型,並提供 2B、4B、9B 及 27B 尺寸。
2B, 4B, 9B, and 27B
查看原始出處
d3 模型支援輸入文字、結構化狀態或圖像,可用於分類、是非問答及評估選項機率。
官方公告說明可輸入文字、狀態或圖像,進行分類、是非問答或輸出選項機率評分。
classify, answer yes or no
查看原始出處
背景
vLLM Semantic Router 是一個可程式化的路由層,用於在異質 LLM 基礎架構間建構模型混合(Mixture-of-Models)系統。而 Phonon 是由 Fermion Research 開發的語音引擎,支援透過 MLX 在 Apple silicon 以及透過 CUDA 在 NVIDIA GPU 等環境下執行。