NVIDIA Kyber 機櫃 LPDDR5X 總成本超越 HBM4E，因供應短缺 Vera CPU 記憶體配置恐減半

據報導，NVIDIA AI 伺服器中用於 CPU 的 LPDDR5X 記憶體總成本已超越 HBM。美國銀行（BofA）測算，NVIDIA Vera Rubin Ultra NVL144 的 Kyber 機櫃配置 124.4TB HBM4E 成本約 250 萬美元，而同櫃 216TB LPDDR5X 總成本近 280 萬美元，超出前者約 12%。 NVIDIA 從 Grace CPU 開始以低功耗的 LPDDR5X 取代傳統伺服器 DDR5，至 Vera 世代進一步採用可拆卸的 SOCAMM2（小型壓接式記憶體模組）設計。美光數據顯示，首代 SOCAMM 同容量頻寬為 RDIMM 的 2.5 倍以上，佔用面積僅約三分之一；SOCAMM2 功耗約為等容量 RDIMM 的三分之一。 為應對 AI 代理（Agent）與並行任務帶來的數據吞吐需求，單顆 Vera CPU 的 LPDDR5X 配置從 Grace 的 480GB 提升至最高 1.5TB。AMD 也計畫於 2027 年推出支援 LPDDR5X SOCAMM2 的 CPU，JEDEC 則已於今年 6 月正式制定 SOCAMM2 的電氣與機械標準。TrendForce 預計，2028 至 2030 年 AI 伺服器將成為全球最大 LPDRAM 單一終端市場。 然而，模組化 LPDDR5X 正面臨嚴重的供應與價格挑戰。TrendForce 指出，2027 年初三大原廠供貨僅能滿足 NVIDIA 預計需求的約 60%。為應對短缺，NVIDIA 恐將多數 Vera Rubin 系統的 SOCAMM2 容量減半（採用 96GB 而非 192GB 模組），使單顆 Vera CPU 記憶體降至 768GB。SemiAnalysis 估算，NVIDIA 2026 年第一季採購 SOCAMM 的合約價約 8 美元/GB，高於同期行動端的 6 至 7 美元，至 2026 年末可能超過 13 美元/GB。