前瞻與傳聞
據報 2026 年 AI 焦點轉向推理硬體：Nvidia 斥資 200 億美元收購 Groq，AWS 混用 Cerebras 晶片
Hacker News單一來源
尚未逐項核實
目前依單一來源整理，這是來源數量描述，不是對消息真假的判定。
據 IEEE Spectrum 報導，2026 年 AI 產業焦點已從模型訓練轉向推理（inference），Nvidia 執行長黃仁勳在 GTC 2026 大會上稱此為「推理的轉折點」。報導指出，需求激增源於具備思維鏈（chain of thought）的推理模型會產生高達 20 倍的文字輸出，且代理 AI 需全天候自主運行。為應對此轉變，Nvidia 據傳以 200 億美元收購推理新創 Groq 的關鍵人才與智慧財產權，並推出 Groq 3 語言處理單元（LPU），透過晶片上 SRAM 記憶體與計算區塊的排列最佳化來減少資料移動。AWS 則將推理任務拆分，由自家的 Trainium 晶片處理複雜運算，搭配 Cerebras 的晶圓級引擎處理記憶體密集任務；OpenAI 與 Amazon 均已部署 Cerebras 晶片。此外，Anthropic 據稱每月支付超過 10 億美元向 SpaceXAI 租用備用算力。d-Matrix 創辦人 Sudeep Bhoja 解釋，推理的自迴歸特性要求生成每個 token 時必須讀取所有權重與上下文，其 prefill 與 decode 階段帶來與訓練截然不同的運算挑戰。
讀原始報導社群討論
社群普遍讚賞文章深度，認同 AI inference 硬體將如同 CPU 般多面向演進，未來的效能提升將高度依賴此技術堆疊。討論指出「記憶體牆」是當前最大瓶頸，而 Speculative decoding 等創新能將記憶體串流次數減少 4 倍；Anthropic 每月支付 SpaceXAI 超過 10 億美元租用算力的驚人成本也引發關注。部分讀者則質疑文中將 LLM 訓練比喻為拼字遊戲（Scrabble）的說法存在缺陷，且在推論階段難以延續。