模型發布
Google 與 Meta 開源原生 TPU 後端 TorchTPU,取代 PyTorch/XLA 並支援單行程式碼遷移
AI 前線單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據
據報導,Google 與 Meta 在 2026 年 PyTorch 北美大會上宣布開源 TorchTPU,作為 Google TPU 的原生 PyTorch 後端,取代 2020 年推出且需侵入性修改程式碼的 PyTorch/XLA。根據查證,舊版 PyTorch/XLA 的 GitHub 儲存庫預計於 2026 年 11 月 15 日正式封存,官方要求現有工作負載全數遷移至 TorchTPU。
TorchTPU 透過 PyTorch 自訂硬體的 PrivateUse1 擴充點整合到底層排程器,模型遷移僅需將「model.to('cuda')」改為「model.to('tpu')」。首波同步開源的程式庫包含 TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU 與 TorchTitan,可開箱支援 Hugging Face 模型,並透過 Ray 與 llm-d 在 Kubernetes 上實現多主機擴充。在效能方面,Google 展示了在 8,192 顆 TPU v7x 晶片上運行 Qwen3 235B 混合專家(MoE)模型,達到 28% 的模型 FLOPs 利用率(MFU)與近線性擴展;但官方坦承單行改寫無法直接達到硬體峰值效能,目前已在 GitHub 釋出 TPU 代理套件(TPU Agent Suite)預覽版以輔助自動化調優。
除了 Google 陣營,AWS 亦推出採用相同擴充機制的 Trainium 原生後端 TorchNeuron(.to('neuron')),但目前尚不支援動態輸入形狀並跳過了約 22,000 個測試案例。Meta 表示,此舉是為滿足前沿 AI 對運算規模與硬體多樣性的需求,避免受限於單一硬體架構,未來將把更大規模的 LLM 工作負載遷移至 TPU。
讀原始報導背景
PyTorch/XLA 過去作為連結 PyTorch 深度學習框架與 Cloud TPU 的 Python 套件,仰賴 XLA 編譯器運作,但在模型移植時往往需要對原始碼進行侵入性修改。隨著大規模模型對硬體多樣性與跨晶片可移植性的需求激增,Google 與 Meta 合作推出 TorchTPU 原生後端,讓開發者能以最少的程式碼改動直接在 TPU 上執行與擴展模型。