開發生態
Google 推出 TPU 8tx 與 TPU 8i Max 兩款新系統:8tx 首度導入硬體級機密運算並採用 AMD 主機 CPU,8i Max 以雙晶片封裝提供雙倍算力與記憶體頻寬
Hacker News綜合 4 家報導一手來源
核實資料不足
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
本次未取得足夠原文證據

Google 今日發表第八代 TPU 產品線的兩款新系統:TPU 8tx 與 TPU 8i Max,使第八代 TPU 家族擴增為 8t、8i、8tx、8i Max 四種系統。Google 表示,這是其首次在一年內推出四款 TPU 系統,TPU 業務目前已有近百家客戶,包括前沿實驗室、交易公司、零售商與大學等。
TPU 8tx 針對機密推論與小規模訓練設計,主要服務受嚴格監管的企業與政府,可在處理敏感資料與模型權重時,於硬體層級提供隔離保護。Google 指出,8tx 與 TPU 8t 採用相同晶片設計,搭配第五代 AMD EPYC 主機 CPU,並採用與 8i 相同的低延遲 Boardfly 網路;相較 8t,延遲最多降低 2 倍。INSIDE 報導,8tx 系統具備 12.6 PFLOPS FP4 運算效能與 216GB HBM 記憶體。此外,客戶可在同一系統上進行私有資料微調、模型蒸餾與強化學習訓練,無須在不同叢集間遷移敏感資料。
TPU 8i Max 則針對長上下文與記憶體瓶頸設計,將兩顆低延遲的 TPU 8i 晶片整合於同一封裝,相較 8i 提供兩倍運算、兩倍 SRAM 與兩倍 HBM 頻寬,並支援百萬 token 等級的上下文。Google 表示,這類能力適用於跨整個程式碼庫的多代理協作或長時間影片分析。
據彭博社報導,Google 晶片業務負責人 Amin Vahdat 表示,新 TPU 8tx 與 8i Max 並非全新設計的晶片,而是在既有晶片上重新配置以符合客戶需求;他並稱此舉目的是進一步挑戰輝達在 AI 晶片市場的地位。另據 iThome 引述 Google Cloud 副總裁 Mark Lohmeyer 的說法,Google 將 TPU 迭代週期由過去每兩年一款,加快到目前每年數款,並認為 AI 代理時代的基礎設施競爭已從單純算力擴展到運算、網路、儲存與安全的系統級效能。
讀原始報導背景
張量處理單元(TPU)是 Google 開發的特定應用積體電路(ASIC),專門用來加速機器學習。Google 自 2015 年起在內部使用 TPU,並於 2018 年開放給第三方使用,部分 TPU 也成為其雲端基礎架構的一部分。
社群討論
討論主要批評這篇公告缺乏具體規格、每 token 功耗與成本等數據,也沒有購買或使用連結,有人質疑它是否只是新聞稿。但也有留言指出 TPU 可透過 Google Cloud 租用,Anthropic 與 Apple 都有使用,TorchTPU 與教學文件也已存在。另有人認為 TPU 較低的推論成本可能迫使 Nvidia 降價,並提到 Google 已向 Anthropic 出售 TPU,Yahoo 報導也指 Google 開始銷售 TPU 晶片。
來源
- TechNews 科技新報technews.tw
- 中央社 財經cna.com.tw
- INSIDEinside.com.tw
- iThomeithome.com.tw
- iThome 中國ithome.com
- zh.wikipedia.org
- en.wikipedia.org