開發生態
微軟與 AWS 擴大部署 Arm 架構 CPU 支援 AI 代理,亞馬遜自研晶片年化營收破 250 億美元
InfoQ 中國多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。
微軟與亞馬遜近期財報顯示,基於 Arm 架構的客製化 CPU 正成為超大規模雲端基礎設施的核心,以應對 AI 代理(Agent)在資料檢索、工具呼叫與程式碼執行上的複雜需求。
微軟 CEO Satya Nadella 指出,在運行 AI 代理負載時,CPU 與 GPU 同等重要。微軟第二代 Arm 架構雲端 CPU Azure Cobalt 200(基於 Neoverse CSS V3 構建,具備 128 個 vCPU,效能較前代最高提升 50%)預計於 7 月底前部署至全球逾 25 個資料中心。該基礎設施目前已在真實生產環境中承載 OpenAI、Adobe、Arm、Elastic 等客戶及微軟自有服務的工作負載。
亞馬遜亦公布其晶片業務(含 Graviton、Trainium 與 Nitro)年化營收突破 250 億美元,年增達三位數。專為 AI 代理工作負載設計的第五代 Graviton5,其採用速度接近前代 Graviton4 的兩倍。基於 Graviton5 的 M9g 執行個體已於 6 月商用,較前代運算效能最高提升 25%,機器學習推論速度提升 35%。目前 AWS 前 1000 大 EC2 客戶中有 98% 使用 Graviton,超過 12 萬家客戶基於此建構服務,且連續三年新增 CPU 容量逾半採用該系列。
根據 IDC 預測,2026 年全球 AI 基礎設施支出將達 4,970 億美元,需求正從單一 GPU 系統擴展至編排平台與基於 CPU 的推論叢集。目前 Google Cloud 的 Axion 已作為最新 TPU 系統的 AI 頭節點 CPU,NVIDIA 的 Vera 也將成為 Rubin 等下一代 AI 系統的計算基礎,顯示 Arm 架構 CPU 正全面承擔現代 AI 資料中心的資源編排與系統協調職能。
讀原始報導背景
AWS Graviton 是由 Amazon Web Services (AWS) 專為其雲端運算基礎設施設計的 64 位元 Arm 架構處理器系列。隨著 AI 基礎設施邁向智慧體執行階段,這類客製化 CPU 已成為處理資料預處理與系統協調等任務的通用運算底座。
來源
- AI 前線infoq.cn
- en.wikipedia.org