輝達於Hot Chips宣布Groq 3 LPX機櫃量產由Nebius首發，SpaceXAI採用Vera CPU

據報導，輝達（NVIDIA）於8月24日的Hot Chips大會上宣布兩項針對代理式AI（Agentic AI）的重大硬體進展：Groq 3 LPX機櫃全面量產，以及Vera CPU獲SpaceXAI採用。這兩款晶片皆為下一代資料中心架構Vera Rubin平台的核心，旨在將過去由單一GPU包辦的運算重新分工，以解除AI代理執行複雜任務時的延遲瓶頸。 輝達於去年取得Groq推論技術授權，此次量產的Groq 3 LPX機櫃搭載256顆Groq 3 LPU晶片。該機櫃在平台中擔任負責產出文字與指令的「極速引擎」，提供每秒3,400個token的生成速度。根據Artificial Analysis基準測試，其在代理式程式設計等對延遲高度敏感的工作負載中展現世界級速度。AI雲端服務商Nebius已成為首家導入該設備的業者。 另一方面，獲SpaceXAI採用的Vera CPU為業界首款專為AI代理設計的處理器，在平台中扮演負責流程編排與調用外部工具的「邏輯指揮官」。該CPU具備88個自研Olympus核心與1.2TB/s記憶體頻寬，任務完成速度較傳統x86 CPU快1.8倍。SpaceXAI將利用Vera CPU接管Grok模型的寫程式、資料過濾及多模組編排等繁重作業，使GPU能完全發揮運算潛能，並將Grok基礎設施擴建至吉瓦（GW）級規模。 此外，雙方的合作也延伸至太空軌道。SpaceXAI計畫將經過最佳化的高度整合架構Vera Rubin NVL72機架級系統，應用於第一代Starmind AI衛星，以解決軌道環境下嚴苛的散熱與功耗問題。