跳到主要內容
2026-10-29 日報
模型發布

DiffuSpace 開源 350 億參數擴散語言模型 Clover-35B-A3B-Preview,宣稱 680 tokens/s 並挑戰 Agent 編程

AI 前線單一來源
核實資料不足

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

本次未取得足夠原文證據

深圳 AI 創業公司扩散智能(DiffuSpace)於 10 月 28 日發布並開源 Clover-35B-A3B-Preview,這是一款採混合專家(MoE)架構的擴散語言模型(dLLM),總參數 350 億、每次推理激活約 30 億參數,總參數規模約為上一代 Clover 的 5 倍。據公司內部測試,其整體生成速度達 680 tokens/s。團隊宣稱在部分 Agent 任務與通用評測中,表現達到或超過同等規模的自回歸模型。 在 Agent 評測方面,團隊公布 SWE-bench Verified 73.6、Terminal-Bench 2.1 為 51.7、τ³ Overall 為 65.3,並稱超過 Mercury 2.5 與同為 35B-A3B 規模的 Qwen3.6-35B-A3B。通用能力測試中,它在部分指標上超過同尺寸自回歸模型,但數學與部分代碼評測仍由其他模型領先,表現並不全面。 端到端執行時間的數據同樣來自官方或團隊側:無人機空域管理 Demo 中,Clover 完成任務耗時 7.32 秒,對照的 Qwen3.5 為 62.3 秒;在 WindTunnel 的 49 項任務測試中,Clover 中位執行時間為 1.52 秒,Jev 與 Mercury 2.5 組合為 3.21 秒,GPT-5.6 Luna 為 5.74 秒,Gemini 3.6 Flash 為 7.22 秒。報導指出,部署方式、任務流程與計費規則可能不同,且 Agent 總耗時常受工具呼叫與外部等待影響,生成速度未必等同任務速度。 架構上,Clover 並非從零訓練,而是基於 Qwen3.6-35B-A3B,保留混合 GDN/Attention MoE 骨幹,引入塊級擴散生成,並將門控 Delta 網路(GDN)改為雙向以適應並行去噪。團隊以遞歸狀態壓縮歷史上下文,在當前生成塊內採雙向注意力,並加入可學習的塊大小校準機制。 團隊另計劃推出面向結構化判斷的決策模型,目標一次生成中聯合處理最多 8 個關聯問題,以及多模態模型,但目前仍屬規劃,效果未知。模型權重與程式碼已分別發布於 Hugging Face、GitHub 與 ModelScope,並提供 SGLang、llama.cpp 等推理後端支援。 此為預覽版,且目前僅有單一來源報導,上述效能與評測數據尚未獨立驗證。
讀原始報導

背景

目前主流的大型語言模型多採用自回歸模型(ARM)架構。LLaDA 研究從頭訓練擴散模型,挑戰「大型語言模型能力必須依賴自回歸模型」的假設。混合專家模型(MoE)則透過門控模型,把任務劃分給多個專家網路分別處理,再整合出最終結果。

來源