OpenAI 首款自研推論晶片 Jalapeño 跑分出爐:採台積電 3nm,每瓦吞吐量最高達 NVIDIA GB200 的 1.9 倍
該 ASIC 晶片與 Broadcom 合作開發,專為大語言模型推論設計且僅供內部使用,實測打破傳統硬體限制,同時實現高吞吐量與極低延遲。
OpenAI News綜合 8 家一手來源
69 則值得知道的變化
該 ASIC 晶片與 Broadcom 合作開發,專為大語言模型推論設計且僅供內部使用,實測打破傳統硬體限制,同時實現高吞吐量與極低延遲。
機櫃搭載 256 顆 LPU 專攻低延遲推論;SpaceXAI 則計畫將 NVL72 系統送上太空,應用於 Starmind 衛星。
新款 Mac mini 首搭 2 奈米 M6 晶片;Mac Studio 搭載的 M5 Ultra 具備 80 核 GPU,AI 運算效能較前代暴增 4.5 倍。
新款 Mac Studio 台灣起售價 84,900 元,首度支援 Thunderbolt 5 叢集串聯多台設備共享記憶體池,頂規 512GB 版本預計 10 月下旬推出。
M6 為 Apple 首款 2nm Mac 晶片。受惠於 macOS 26.2 支援 Thunderbolt 5,開發者可串聯多台 Mac 透過 MLX 框架執行大型語言模型分散式推論。
新機標配 16GB 記憶體並內建 Apple N1 晶片支援 Wi-Fi 7,台灣售價 29,900 元起,主打常時運行的代理型 AI 任務,預計 9 月 22 日發售。
專為無人機與家用機器人等邊緣自主設備設計,官方稱其推論效能較前代翻倍,旨在滿足開發者對微型且節能的終端 AI 運算需求。