NVIDIA 實測 DSX MaxLPS 動態電源分配技術:同電力預算下 GB300 叢集 GPU 部署量提升 37%、總吞吐量增 49%
與 Nscale 合作在 GB300 NVL72 系統運行 Kimi K2.5 實測顯示,該技術將電源預算利用率提升至 75.2%,每瓦吞吐量達 6.12 tokens/s/W。
NVIDIA Developer一手來源
55 則值得知道的變化
與 Nscale 合作在 GB300 NVL72 系統運行 Kimi K2.5 實測顯示,該技術將電源預算利用率提升至 75.2%,每瓦吞吐量達 6.12 tokens/s/W。
該公司將推論的 Prefill 與 Decode 階段分別交由 GPU 與 SRAM 晶片處理,預計 2027 年底前完成數百 MW 容量部署。
該廠與恩智浦合資 67 億美元興建,預計 2027 年初量產。除生產電源管理晶片,也將供應輝達等 AI 晶片所需的中介層。