跳到主要內容
2026-10-28 日報
開發生態

NVIDIA 推出 CUDA 13.4:支援 Kubernetes 強制記憶體邊界 GPU 共享,整合開源 Operator 與彈性上限

NVIDIA Developer一手來源
核實資料不足

來源為發布方或研究資料;不代表所有主張已獲獨立核實。

本次未取得足夠原文證據

NVIDIA 於 CUDA 13.4 正式推出強制記憶體邊界(Memory Enforcement)功能,讓多個工作負載共享單一 GPU 時具備透明的記憶體隔離。新版本支援工作負載指定固定記憶體容量,一旦超額配置將直接失敗;同時支援「保證下限(Request)」與「閒置彈性上限(Limit)」範圍設定,應用程式端僅會看見自身獲分配的 GPU 記憶體切片。 為將此能力帶入 Kubernetes,開源專案推出 `gpu-fractioning` Operator(託管於 GitHub KAI Scheduler 組織),與既有的 NVIDIA GPU Operator 並行部署於叢集節點。該 Operator 負責在每台 GPU 節點常駐並監管 MPS 服務、於容器啟動前注入記憶體邊界與算力模式,並逐一切片回報實際硬體用量。 KAI Scheduler 自 v0.18.0 起新增名為 NvFractions 的共享模式,成為首個整合該 Operator 的排程器。開發者可於 Pod YAML 中透過 Annotations 定義資源需求,支援輸入絕對記憶體容量(如 80Gi)或比例分額(如 0.5),並能宣告高於 Request 的 Limit 上限。算力劃分方面,提供預設具備完整錯誤隔離的序列「time-slicing」模式,或透過 MPS 動態分配串流多處理器以同時運作的「sm-sharing」平行模式,但單一 GPU 內不可混用兩種算力模式。
讀原始報導