跳到主要內容
2026-10-30 日報
研究與評測

微軟 Maia 300 推理晶片公布規格:288GB HBM4、18TB/s 頻寬,2027 年量產,但「每瓦 Token 數提升 40%」的基準受質疑

AI 前線單一來源
核實資料不足

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

本次未取得足夠原文證據

據 AI 前線引述微軟工程博客與公告,Maia 300 預計 2027 年投入生產環境,定位為長上下文、內存密集與解碼負載較重的推理晶片,兩篇公告均未提及訓練。單顆加速器配備八組 HBM4,容量 288GB、頻寬 18TB/s、TDP 950 瓦;一個機架 96 顆、功耗 167kW,聚合 HBM 容量 27.6TB、聚合頻寬 1.7PB/s。計算 Chiplet 採台積電 N2P 製程,內存控制器與 I/O 置於獨立晶片;微軟稱計算 FLOPs 提升 36%、內存頻寬為 Maia 200 的 2.5 倍,每瓦 HBM 頻寬約為兩倍,並改採多 Chiplet 的 NUMA 架構。網路方面,Maia 採以太網定制傳輸機制,加速器可直接與 Superpod 內任意節點通信;同托盤兩顆直連,機架內交換式 Fabric 連接 96 顆,第二級光交換機可互連最多 128 個機架、組成 12,288 顆的 Superpod。延遲分為直連、一跳(Pod 內)與三跳(跨 Pod)三個域,單顆加速器對任意節點最高可達 750 GB/s,實際分配取決於作業放置方式。Prefill 與 Decode 節點可獨立擴展,KV 狀態經同一 Fabric 直接傳輸;跨機架備援可由備用托盤接替故障托盤。微軟的核心數據是「與領先 GPU 系統相比,每兆瓦 Token 數提高 40%」,另稱機架級吞吐量最高達七倍、每瓦性能超過 Maia 200 的 2.5 倍。目前 Maia 200 已用於 Copilot 與 MAI 團隊,微軟計畫年底前接入 GitHub Copilot 與 Microsoft Foundry。然而,此 40% 指標遭業界質疑:Rick Bullotta 認為「每瓦 Token 數」定義不一且會獎勵冗長輸出;Michel Floyd 指出量綱應為每瓦每秒或每千瓦時;UBIQS 創辦人 Vinay Bansal 質疑測試的上下文長度,認為多步驟 Agent 任務下內存才是瓶頸。微軟未公開比較的 GPU 系統,也未定義何謂「有用」Token。另外,納德拉的公告將 40% 表述為已實現,而 Scott Guthrie 與工程博客則稱「預計」提升。目前所有負載皆屬微軟自身產品,客戶能否直接預配 Maia 算力尚不清楚。Pexon Consulting 的 Phillip Pham 提問,效能提升能否轉化為更便宜的預留吞吐量方案,並指出承諾容量模式下,決定收益的是每個有保障 Token 的價格。微軟表示將於下月舊金山 Microsoft Ignite 2026 公布更多資訊。本則屬單一來源報導,上述數據均為微軟自述或預計值,尚未獨立驗證。
讀原始報導

背景

Maia 300 每顆加速器配備的 HBM4 是一種高頻寬記憶體,其介面寬度為 2,048 位元。2026 年 7 月,JEDEC 發布 SPHBM4 規格,保留 HBM4 的 DRAM 堆疊,但改用 512 位元的外部介面,並提高傳輸速率。

來源