模型發布
NVIDIA CUDA 13.5 正式支援 Vera Rubin GA,並新增 MPS v3 多工調度與 CUDA Tile 多 GPU 通訊
NVIDIA Developer一手來源
核實資料不足
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
本次未取得足夠原文證據

NVIDIA 發布 CUDA 13.5,Vera Rubin 支援由早期開發者存取升級為正式可用(GA),官方定位為可供企業正式環境部署。Windows on Arm 支援自 CUDA 13.4 起 GA,此版起擴及 NVIDIA DGX Station for Windows。
在 GPU 排程方面,新增 locality domain 相關設定:新旗標 cudaDevSmResourceGroupLocalityDomainSupplementalSms 搭配 cudaDevSmResourceGroupLocalityDomainId,可讓分區涵蓋各 domain 內的所有 SM,但各分區大小可能不一;應用程式可用 cudaDevSmResourceSplit() 的 discovery mode 查詢每個分區的 SM 數。MPS v3 提供加權時間片(weighted timeslicing),可為承載較重負載的 MPS server 分配較長運算時間;SM 分區負載平衡允許分區借用或出借 SM,由 --max-chunks 與 --shareable=true 分別控制,MPS 會在重新分配前收回借出資源。另有 cgroup v2 路由,可將 cgroup 子樹對應至 MPS namespace,以及 per-namespace SM 分區指派,取代逐一設定 CUDA_MPS_SM_PARTITION。記憶體計費新增輪詢式 fallback,當 cgroup 門檻通知遺失或不可靠時,可透過 force_polling=true 強制啟用,代價是每次驅逐決策的額外開銷。
圖形驅動方面,自 NVIDIA Rubin 架構起,CUDA 支援 WDDM 與 MCDM 兩種 Windows 驅動模式,其中 MCDM 為純運算驅動模型;Rubin 及之後的 GPU 不支援 TCC 模式,依賴 TCC 的部署流程需改用 WDDM 或 MCDM。
CUDA Graph 現支援批次一維記憶體複製(cudaMemcpyBatchAsync),可直接納入 stream capture,也可顯式新增批次複製節點並更新相容的複製位址與大小。
CUDA Tile 方面,核心內可直接進行多 GPU 通訊:unicast 指標可存取 NVLink 相連 GPU 的記憶體;在支援 NVLink SHARP 的 NVSwitch 架構上,multicast 指標與 multimem 操作可執行跨 GPU 歸約與寫入,適用於融合矩陣乘法與跨卡 reduction 等工作負載。另有公開預覽版,允許 CUDA Tile 核心直接呼叫 SIMT 函式庫的 device function(如 NVSHMEM、CCCL Coop),不必再透過全域記憶體交換資料。
讀原始報導背景
CUDA Tile 是 NVIDIA 的程式設計模型,可簡化以分塊(tile)為基礎的最佳化 GPU 核心程式(kernel)開發,其開源生態系以 MLIR 為基礎的 CUDA Tile IR 來表達與最佳化分塊運算。Vera Rubin 平台的定位是支撐代理型 AI(agentic AI)與推理模型的大規模運作,著重解決多步驟工作流程中的通訊、協調與記憶體瓶頸。