NVIDIA Transformer Engine 加速 JAX Dropless MoE:DeepSeek-V3 訓練達 1,068 TFLOPS/GPU
NVIDIA 以群組 GEMM、MXFP8 量化與專家平行通訊最佳化,將 NVIDIA GB200 上的基準效能從 103 提升至 1,068 TFLOPS/GPU。
NVIDIA Developer一手來源
50 則值得知道的變化
NVIDIA 以群組 GEMM、MXFP8 量化與專家平行通訊最佳化,將 NVIDIA GB200 上的基準效能從 103 提升至 1,068 TFLOPS/GPU。
首波評測涵蓋 188 個模型並以學測考題為基準;風險盤點採分類但不分級模式,已登錄 144 個應用情境,未來將納入 AI 代理治理。
該模型結合 JEPA 架構,透過隱空間預測降低海量資料依賴,目前已在四足與輪式人形機器人上完成部署,支援陌生環境自主探索。