跳到主要內容
2026-11-07 日報
模型發布

Boson AI 發布 45B 全雙工模型 Higgs Realtime Duplex,採 160ms 分塊串流支援邊說邊推論與呼叫工具

Reddit r/MachineLearning單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

Boson AI 團隊成員在社群平台公布 45B MoE 多模態全雙工模型 Higgs Realtime Duplex,主打能同時處理語音、視覺與文字輸入輸出,並在發話當下於背景同步執行思考、工具呼叫與後端模型任務委託。 架構上,該模型將所有串流切成 160 毫秒(ms)的分塊(chunk):音訊輸入每塊 1 個 token(6.25 tokens/s),音訊輸出每塊 2 個 token(12.5 tokens/s);視訊輸入每 6 塊取一個約 12 token 的攝影機畫格;視覺面部輸出則為每塊 2 個潛在變數(latents)。靜音同樣以分塊 token 表徵,作為模型判斷插話、回應(backchannel)或保持安靜的依據。音訊與視訊每分鐘約消耗 2,600 個 token,若加上漸進壓縮的思考與工具呼叫歷程則為 2,600 至 5,000 個 token;最近 5 分鐘紀錄加上壓縮歷史約佔 13K 至 25K 個 token,更早的歷史僅以純文字保存。 在背景運作方面,思考、工具呼叫與委託分布在相同串流的多個區塊中,工具結果允許分段返回,模型可在執行完成前先行開口應答;較難任務則委託給具備完整共用上下文的更大型後端模型。部署時支援零樣本生成,僅需簡短參考音檔、一張照片與文字提示,即分別透過因果 flow-matching 解碼器生成語音、因果 DiT 生成面部動畫,無需微調。 訓練部分,該模型以純文字預訓練 LLM 為基底,在 H100 集群上以約 2 兆(2T)token 的文字、音訊與視訊進行接續預訓練;後訓練階段採用結合 GRPO 等對話與委託專門教師的線上蒸餾(on-policy distillation),並在模擬噪音與插話情境中進行自我改進循環。團隊自測基準顯示,其在 Big Bench Audio 取得 98.9 分,高於 Google(98)與 OpenAI(97);但在輪流對話測試 Full-Duplex-Bench v1.5 得分為 75.5,落後 OpenAI 的 80.1。Higgs Realtime Duplex 不開放權重,目前其 API 正處於候補名單階段。
讀原始報導