AMD 收購 AI 晶片新創 Taalas,將模型權重直接寫入晶片,推論速度達每秒 1.7 萬 tokens
AMD 以未公開金額收購多倫多新創 Taalas,其專用積體電路技術能將特定模型直接蝕刻至硬體中,藉此提升推論效能以挑戰 Nvidia。
Techmeme綜合 2 家多家報導
71 則值得知道的變化
AMD 以未公開金額收購多倫多新創 Taalas,其專用積體電路技術能將特定模型直接蝕刻至硬體中,藉此提升推論效能以挑戰 Nvidia。
據報導,此架構介於 HBM 與 SSD 之間,由 Base Die 與主機軟體共同管理,應用範圍涵蓋靜態模型權重及動態 KV Cache,旨在緩解 AI 推理的記憶體牆問題。
該廠預計明年初先以租賃方式投入量產,並於 2029 年首季完成收購,藉此解決當前光收發器需求超過供應兩倍的市場瓶頸。
配合新技術研發,NVIDIA 宣布開源 cuFile API,透過 DMA 繞過 CPU 直接傳輸資料,並發布涵蓋 40 家廠商的 Storage-Next 倡議。
內部已測試三種較低容量配置,主因是 HBM4E 驗證進度存變數,降低堆疊層數有助於在 DRAM 總量受限下維持出貨量。
受 HBM4 基礎晶粒與 Nvidia 推論晶片訂單帶動,三星 4nm 產線預計滿載至 2027 年,晶圓代工部門轉而加強銷售 5nm 製程。