開發生態
NVIDIA 透過 TensorRT LLM VisualGen 最佳化 FLUX 3 Image Klein:Blackwell B200 單卡 I2I 生成加速達 4.45 倍、T2I 加速 3.46 倍
NVIDIA Developer一手來源
尚未逐項核實
來源為發布方或研究資料;不代表所有主張已獲獨立核實。

NVIDIA 發布技術文件詳解在 Blackwell 架構上透過 TensorRT LLM VisualGen 部署 Black Forest Labs(BFL)圖像生成模型 FLUX 3 Image Klein 的最佳化方案。在單張 NVIDIA B200 GPU 進行 2048×2048 解析度測試中,結合多項最佳化技術後,FLUX 3 Image Klein Base 版本的文字生成圖片(T2I)速度較未編譯 BF16 推論提升 3.46 倍,圖片生成圖片(I2I)速度提升 4.45 倍。
FLUX 3 Image Klein 架構由用於文字條件處理的 Qwen3-VL-4B-Instruct、精煉圖像潛在變數的擴散 Transformer(DiT)以及編解碼圖像的自動編碼器組成。在單張 B200 啟用 NVFP4 與 torch.compile 基準下,去噪步驟占據整體耗時 84% 至 97.8%:50 步去噪的 Base 模型 T2I 總耗時 14.70 秒(去噪占 14.24 秒)、I2I 總耗時 40.29 秒(去噪占 39.40 秒);16 步去噪的 Distilled 模型 T2I 總耗時 2.71 秒(去噪占 2.28 秒)、I2I 總耗時 7.48 秒(去噪占 6.65 秒)。
為加速去噪核心,TensorRT LLM VisualGen 支援 BFL 預量化的 NVFP4 DiT 權重,單是啟用 NVFP4 即可比 BF16 在 T2I 與 I2I 分別提速 1.62 倍與 1.58 倍。核心運算方面採用基於 CUTLASS Primitives 構建的 FlashInfer PrimsTS FP8/NVFP4 GEMM 核心,並預設融合 SwiGLU 與帶有 QK Normalization 和 RoPE 的 QKV 投影,使 B200 的 T2I 速度比 TensorRT LLM 自動調優的 GEMM 實作再提升 1.02 至 1.10 倍。
在 2048×2048 解析度下,標準 BF16 注意力運算佔據 DiT 核心時間約 60%。VisualGen 支援 low-precision 與稀疏注意力機制:相比標準注意力,cuDNN FP8 使 Base 與 Distilled 分別加速 1.08 倍與 1.09 倍(LPIPS 感知差異為 0.072 與 0.161);而採用修復預算 ρ=0.005 的 VC-Attention FP8 則分別加速 1.18 倍與 1.16 倍(LPIPS 為 0.086 與 0.151),為官方在 B200 高解析度環境下的推薦配置。
讀原始報導背景
擴散模型在圖像生成流程中面臨多次連續迭代帶來的推論延遲挑戰,而以 Transformer 架構為基礎的 Diffusion Transformer(DiT)能透過前向運算複雜度來評估其擴展性。另一方面,NVFP4 採用區塊浮點(Block Floating Point)技術,讓一組有效位數共用單一指數以節省硬體空間,成為加速模型運算的重要數值格式。