NVIDIA 宣布 Groq 3 LPX 系統全面量產，專攻代理式 AI 推論

NVIDIA 於本週一在加州帕羅奧圖（Palo Alto）舉辦的 Hot Chips 大會上宣布，專為代理式 AI（Agentic AI）與長上下文推論設計的機架級系統 NVIDIA Groq 3 LPX 已全面量產。根據 Artificial Analysis 的基準測試，在運行開源代理模型 Gemma 4 31B 並處理 10 萬個 token 的輸入序列時，Groq 3 LPX 的生成速度達每秒 3,400 個 token，官方稱其速度比最接近的替代平台快 4 倍。據媒體報導，此系統的推出印證了 NVIDIA 對 Groq LPU 技術高達 200 億美元的投資佈局。 NVIDIA 強調「極致協同設計（Extreme codesign）」理念，將運算、網路與推論加速整合為單一 AI 工廠架構。Groq 3 LPX 具備低延遲推論架構，將與 Vera Rubin NVL72 及 Spectrum-X 乙太網路搭配運作。目前該平台已獲多家業界夥伴採用：Nebius 成為首家導入 NVIDIA Groq 3 LPX 的 AI 雲端服務商；SpaceXAI 宣布將採用 NVIDIA Vera CPU 驅動其次世代代理式 AI；CoreWeave 則已在生產環境中部署 Spectrum-X Multiplane，透過多個平行交換器連接 Vera Rubin 機架，提供高頻寬且無損的 AI 網路。