Google 與 Meta 開源原生 TPU 後端 TorchTPU,取代 PyTorch/XLA 並支援單行程式碼遷移
該後端可讓模型開箱直行並以 8,192 顆 TPU v7x 規模擴充,舊版 PyTorch/XLA 則預計於 11 月 15 日正式封存。
AI 前線單一來源
55 則值得知道的變化
該後端可讓模型開箱直行並以 8,192 顆 TPU v7x 規模擴充,舊版 PyTorch/XLA 則預計於 11 月 15 日正式封存。
中方企圖藉此獲取美國晶片機密並推動頂級晶片銷中,涉案高層為輝達客戶,且與技嘉等晶片供應鏈高層關係密切。
結合 NVFP4、FlashInfer 融合核心與低精度注意力,單張 B200 運行 2048 解析度 Base 模型 T2I 總延遲降至 14.7 秒。
該計畫由先進封裝副總徐國晉主導以緩解 AI 晶片荒,具體時程未定,若成案將直面三星與 SK 海力士等記憶體巨頭競爭。
微軟因舊代 GPU 效益降低逐步關閉租賃資源;甲骨文則強調舊款晶片續約價逆勢漲 20%,且仍握有 OpenAI 等客戶訂單。
面對晶片出口限制,中國模型開發商月之暗面正尋求海外算力管道,擬藉由歐洲新興雲端服務商遠端調度運算資源。
現有供電已達標準但需改裝散熱系統;此方案具審批程序少且阻力小優勢,可緩解大型資料中心的興建延期瓶頸。