Google 將 TorchTPU 開源，讓 PyTorch 原生運行於 TPU 上，挑戰 Nvidia 生態壁壘

Google 已將 TorchTPU 以開源專案形式釋出，這是一個為 Google 張量處理器（TPU）打造的 PyTorch 原生後端（backend）。依官方 GitHub 專案說明，它讓使用者能在 TPU 裝置上執行 PyTorch 模型與運算，內含 TPU 用的 ATen 運算核心（kernel）、用於加速 XLA 運算執行的編譯快取，並支援資料平行（Data Parallelism）與張量平行（Tensor Parallelism）等分散式訓練，同時透過 torch.compile() 整合圖模式（graph mode）執行。專案附有 Llama、Qwen、ResNet、DLRM、minGPT、UNet 等模型範例。 目前公開版本為 torch_tpu 0.2.0（可透過 PyPI 安裝），Python 支援版本為 3.11 以上，與 PyTorch 的相容性矩陣一致。官方使用指南位於 torchtpu.readthedocs.io。 產業面上，PyTorch 據報導被約 85% 的 AI 應用採用，但多數 AI 應用預設即為 Nvidia GPU 撰寫。Google 此舉被視為繼 Amazon 之後，進一步挑戰 Nvidia 在 AI 開發生態中的主導地位，目標是讓 AI 應用開發者能更容易在 TPU 上運行既有的 PyTorch 程式。