Google、Meta 推出 TorchTPU 原生 PyTorch 後端,宣稱 DeferAndFuse 比 Strict Eager 快 50% 以上
PyTorch 程式僅需少量改寫即可上 TPU,已測約 5,000 個 Hugging Face 模型,300 億參數模型單卡推論每秒 25,700 Token。
AI 前線單一來源
33 則值得知道的變化
PyTorch 程式僅需少量改寫即可上 TPU,已測約 5,000 個 Hugging Face 模型,300 億參數模型單卡推論每秒 25,700 Token。
合約約合 15 億美元,客戶為一家美國 AI 推論公司,是 Naver 與 Nvidia、Brookfield 合作開發的 AI Factory 業務首筆大型訂單。
Nvidia 代表據稱向推動《晶片安全法》的眾議員 Bill Foster 表示技術上可行,但產業團體 2026 年 3 月稱該規定「可能不可行」,Nvidia 未回應。