晶片與算力
AMD 收購 AI 晶片新創 Taalas,將模型權重直接寫入晶片,推論速度達每秒 1.7 萬 tokens
Techmeme綜合 2 家報導多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。
AMD 宣布以未公開金額收購總部位於多倫多的 AI 晶片新創公司 Taalas。Taalas 的核心技術是將 AI 模型權重直接整合並蝕刻到矽晶片中,打造特定模型專用的積體電路(IC),藉此大幅提升推論效能。根據早期的技術展示,這種將模型寫入硬體的專用晶片,推論速度最高可達每秒 17,000 個 tokens。此併購案被視為 AMD 挑戰 Nvidia 晶片市場主導地位的最新舉措。
讀原始報導背景
特殊應用積體電路(ASIC)是為特定用途客製化設計的晶片,有別於一般通用型晶片。Taalas 的技術即是打造針對特定模型的積體電路,將模型權重直接整合至硬體中,藉此大幅提升推論效能。
這則事件的發展
來源
- Hacker Newstheregister.com
- en.wikipedia.org