AWS 爆發 CPU 短缺：內部要求關閉閒置 EC2 讓出算力，AI 推論 CPU 需求逼近 GPU

據報導，亞馬遜雲端服務（AWS）面臨 CPU 短缺，自今年 5 月起向內部工程團隊發出示警，要求節省傳統 CPU 伺服器資源，並優先將可用算力保留給外部客戶。為騰出資源，工程師正陸續關閉閒置的 EC2 虛擬伺服器，內部申請 CPU 資源的等待時間已從過去的數小時拉長至數天。 AWS 官方回應稱，儘管面臨龐大需求，仍有能力滿足絕大多數內外部客戶。目前外部客戶的合約算力尚未出現實質短缺，但以折扣價提供、可於兩分鐘內收回的「競價執行個體」（Spot Instances）已越來越難大量取得，顯示整體供需缺口正在收窄。 分析指出，短缺主因在於「AI 代理」應用的快速擴散，以及 AI 模型訓練前處理資料對 CPU 的龐大需求。英特爾財務長 David Zinsner 透露，在 AI 推論情境中，CPU 與 GPU 的使用比例已從今年 4 月的 1 比 4，至 7 月迅速拉近至接近 1 比 1；超微（AMD）與 Arm 高層亦證實 CPU 需求成長超出預期。此外，記憶體供應緊張與資料中心實體空間限制也加劇了算力荒。 算力分配已成科技巨頭共同難題。Google 去年成立專責委員會協調內部算力，知名研究員 Noam Shazeer 今年稍早即因算力取得受限而離職；微軟則在上月財報中指出，Azure 營收成長得益於 CPU 與 GPU 叢集管理效率的提升。