擴散語言模型框架 ORL 開源：搭配 dlmrt 引擎在單張 RTX 5090 達 2,788 tokens/s

研究團隊開源擴散語言模型（dLLM）加速技術 ORL（On-Policy Residual Learning）及專屬推論引擎 dlmrt，在單張 RTX 5090 搭配 LLaDA-2.1-mini（NVFP4）下創下單請求（batch size 1）2,788 tokens/s 的解碼峰值。在資料中心硬體方面，8× B200 運行 DiffusionGemma 26B MoE 達 7,708 tokens/s；在單張 H100 的單請求對比中，QwenDLM-4B 搭配 ORL 達到 1,298 tokens/s，較執行於 vLLM 的投機解碼方法 DFlash（746 tokens/s）快 1.74 倍，亦高於 EAGLE3 的 405 tokens/s。 模型表現與訓練成本方面，改編自 Qwen3-4B 的 QwenDLM-4B 單次前向傳播 token 數增加最高 6.2 倍，搭配 dlmrt 帶來約 6.9 倍端到端吞吐量提升，且 HumanEval pass@1 從 82.9% 提升至 89.6%。LLaDA-2.1-mini 僅需 4.2M 自生成 token 與 36 個 H100 GPU 小時的後訓練，即可提升 3 倍吞吐量；DiffusionGemma 26B MoE 的單次前向傳播 token 數亦提升 1.2 倍。 技術架構上，ORL 放棄離線殘差，改由當前模型生成的即時軌跡訓練以消除分佈偏差，並引入「相鄰熵收縮」（Adjacent Entropy Contraction）配合損失閘控加速去噪收斂。推論引擎 dlmrt 則將去噪迴圈完整封裝於 CUDA Graph 內直接在 GPU 執行，避免 CPU 頻繁發射與同步，同時支援 Blackwell 架構的 NVFP4 推論，相同設定下比 SGLang 與 vLLM 快 1.2 至 1.6 倍。訓練端亦針對殘差狀態擷取、注意力核心與計算打包進行協同設計，使訓練步驟加速達 5.2 倍。相關模型、訓練程式碼、評測管線與引擎已全數開源。