微軟發布Maia 300 AI晶片：台積電N2P、288GB HBM4

微軟於10月12日正式發布Azure Maia 300人工智慧晶片，計畫自2027年開始量產並部署，擴大至數個GW規模，成為微軟產品與服務的主要推理系統。Maia 300採多Chiplet架構，將運算、記憶體控制器與I/O分離，關鍵運算Chiplet採台積電N2P 2奈米製程，針對長脈絡、記憶體密集型AI推理工作負載最佳化。晶片搭載8組HBM4，總容量288GB、峰值記憶體頻寬18TB/s，SoC額定功耗為950W；FP4算力最高13.8 PFLOPS，FP8算力為6.9 PFLOPS，雙向擴展互連頻寬達3.2TB/s。其軟體定義資料流架構、AI輔助kernel最佳化，以及將片上SRAM作為軟體管理暫存區的設計，旨在減少資料搬移並提升運算、記憶體與網路資源利用率；晶片也支援包括強化版MXFP4在內的低精度格式。微軟表示，Maia 300每兆瓦可處理的Token數量比主流GPU系統高出40%，並將以太網路雙層架構連接成大型推理系統；單一機架可容納96顆，最多可組成包含12,000顆加速器的集群。