前瞻與傳聞
據報理想汽車探索自研雲端推理晶片,將沿用車端數據流架構
iThome單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據《晚點 Auto》報導,理想汽車正探索自研雲端推理晶片,專案目前仍處早期階段。
該晶片預計沿用與其智駕晶片相同的數據流架構,透過重複使用車端 NPU 的運算設計,將多個 AI 運算晶粒封裝在一起,並搭配高頻寬記憶體與高速互連技術,組成更大規模的推理晶片。此舉旨在承接原本由 GPU 執行的部分推理任務,包含智駕模型的資料處理、測試模擬,以及大型語言模型的請求處理,藉由車端與雲端共用部分設計與軟體工具來分攤研發成本。
相較於追求低功耗與穩定執行的車端晶片,雲端晶片需同時處理更多模型與波動的並發請求,涉及多晶片互連、動態批次處理與叢集調度等技術。
理想汽車先前曾於 ISCA 2026 發表基於數據流架構的大算力終端推理晶片「馬赫 M100」,該晶片採用 5 奈米車規級製程,單晶片算力達 1280 TOPS,算力利用率 82%,並配備峰值頻寬 273GB/s 的 8 通道 LPDDR5X 記憶體與 24 核心 ARM Cortex-A78AE 處理器叢集。
讀原始報導