跳到主要內容
2026-10-31 日報
開發生態

LFM3-Omni-2B 實現瀏覽器 WebGPU 本地端到端執行:M4 Max 達 280 tok/s,首個音訊延遲 140ms

Reddit r/LocalLLaMA單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據開發者在 Reddit 社群 LocalLLaMA 披露,端到端多模態模型 LFM3-Omni-2B 已能透過客製化 WebGPU 核心在瀏覽器內 100% 本地執行,全程不需額外串接獨立的 ASR 語音辨識或 TTS 語音合成模型。展示數據指出,該架構在 Apple M4 Max 晶片上的推論速度約為 280 tok/s,輸出首個 token 延遲為 90 ms,輸出首個音訊延遲為 140 ms。系統可接收視覺、音訊或文字輸入,並生成交錯的文字與音訊 tokens,相關展示已部署於 Hugging Face Spaces。
讀原始報導