NVIDIA OCP 釋出 AI 工廠開放設計:MGX 支援 250kW 機架,Spectrum-6 可擴至逾 10 萬顆 GPU
NVIDIA 與 AMD、Google、Meta 發布資料中心規格;Spectrum-6 搭配 Spectrum-X Multiplane,可支援逾 10 萬顆 GPU。
121 則值得知道的變化
NVIDIA 與 AMD、Google、Meta 發布資料中心規格;Spectrum-6 搭配 Spectrum-X Multiplane,可支援逾 10 萬顆 GPU。
投資對象包括 Boltz、Foresight、Hiverge、Prima Mente 與 Riverlane,另與 Earthshot Prize 合作提供氣候創新算力與技術支援。
協議據稱將在美國建立矽中介層供應來源,支援TSMC的CoWoS先進封裝生態系,並牽動HBM與AI加速器供應鏈。
貼文指出模型以 LES 預測並預載 MoE 專家,另提供 MiniCPM-V 4.7 1B 與 SRFT 微調方法,但尚無獨立佐證。
MLA 版在零工具 SWE-bench Verified 達 42.1%,較基準高 2.6 個百分點,平均輸出 token 降至 0.88 倍
兩者分別在 TB2.1 減少 50% 回應 token,Sabi-Noema-MLA 宣稱可讓 24GB GPU 上下文達約 534K
PBC 以機器學習修正既有模型偏差,研究中讓 ECMWF 物理模型在 98% 降水與 92% 溫度目標上提升準確度
pg_vectorsearch 以 C 實作 PRISM,支援既有 pgvector 欄位;專案稱其在 1 億向量、四分之一記憶體下較 HNSW 快。
Siemens 團隊以最終 Liberty 檔案驗證覆蓋率、有效性與時序/功耗精度,並同步降低工具調用回合與輸出 token。
晶片採 28nm CMOS 與片上硬體糾錯,存取延遲低於 20ns,目前已完成流片但仍在驗證中。
作者展示,KV cache 會隨模型層分頁搬移,Llama-3.2-3B 在兩張 T4 間切換僅暫停 8.1–8.4 毫秒。
貼文稱近四週公開 CVE 修補數依序為 600、604、30、1,但資料僅來自單一 Reddit 貼文,尚無佐證。
NVIDIA 資料顯示,Vera CPU Rack 單一液冷機架最多整合 256 顆 Vera CPU,支援超過 22,500 個同時運作的 CPU 環境。
GPU D 系列採 Xe3P 架構、350W 提供 480GB 記憶體與 1.3 PFLOPS FP8,樣品已開始提供。
NVIDIA 表示該介面最高可提供 12.8Tb/s 容量,目標是因應 AI 資料中心對高頻寬光互連的需求。
報導指出,這項合作聚焦擴充 AI 伺服器的記憶體容量與頻寬;Samsung 正將 AI 基礎設施策略由 HBM 延伸至記憶體。
AMD據報推出Helion代理式AI機櫃,Helios已在OpenAI、Meta、微軟與Oracle安裝,Helion配置預計11月提供。
Scion 採虛擬化 checkout 與 API 取用程式碼,讓拉取從數分鐘縮至數秒,並使 CI 算力降低 25%。
中國國內可供應 AI 晶片約 350 萬顆、需求逾 500 萬顆,企業並轉向海外租用配備 B300 的資料中心。
報導稱,Kirin 9050 系列已開始量產,LogicFolding 可在不單靠縮小製程節點下提升電晶體密度與運算效率。
Cerebras CEO Andrew Feldman 稱,資料中心容量不足促使 OpenAI 為次世代模型服務改用 Nvidia GPU。
每個 Git 分支可取得獨立 URL、配置與 Durable Objects 命名空間,但服務綁定仍會呼叫生產部署,Queues 也只能發送不能消費。
平台可串接 Workers AI、R2、D1 等服務並支援 FastAPI、Django、Flask;外部基準稱最簡 Python 啟動約 900 毫秒。
兩款系統均採 ORv3 與 MHS 架構;XPU 托盤搭載四顆加速器 ASIC、兩顆 CPU,提供 102.4 Tbps scale-up 頻寬。
模型採雙階段流程先篩查訊息、再分析對話脈絡,部署時須經使用者同意,Google 與新加坡政府均無法取得對話內容。
DigiTimes稱,兩家記憶體廠正以HBM標準化與晶片整合應對AI加速器的記憶體瓶頸,但未提供規格、時程或實測數據。
Doctolib 將以 NVIDIA 晶片驅動內部模型,打造患者與醫師個人助理,並維持醫療資料自主控制。
產品目前開放早期使用資格申請,首波銷售鎖定歐洲,並可與既有身分識別、SIEM 及 MDM 系統並存。
Nvidia 將以預付款支持 KYEC 與 AeternZ Semiconductor Testing 建置在地測試產能,款項再由測試服務逐步抵銷。
合資案若獲批准,將在印度生產伺服器、機櫃與冷卻系統,回應資料中心硬體需求並降低供應風險。
報導稱 Cisco 正以新晶片、SONiC 與跨站部署能力擴充 AI 網路,應對頻寬、功耗、散熱及大規模設備營運挑戰。
Microsoft 最新監管文件顯示,這筆承諾截至財年 2026 年第四季、6 月底仍未開始履行,反映雲端業者為 AI 算力進行長期投資。
TrendForce並預估2027年AI server出貨量年增近36%,整體server產值首度突破1兆美元,AI server占比約81%。
DigiTimes 報導該系統結合三家公司,但原文頁面目前無法存取,規格、效能與發布細節尚未獲獨立佐證。
DigiTimes 稱,方案將 3D SiP 用於垂直 VRM,目標提升 AI 資料中心與高效能運算系統的供電效率;目前未見效能數據。
800 VDC SST 轉換效率達 98.5%、整體能源效率提升約 4~5%,方案正接受大型資料中心與代管業者測試驗證。
報導稱,方案包含直接液冷(DLC)與 In-Row CDU,針對 AI 資料中心高功耗及液冷需求提出預測式冷卻設計。
單一報導稱,Anthropic 因 Claude 生成程式碼速度快到 Git 難以承受,另組 7 人團隊在 5 個月內重建版本控制系統。
功能目前須填表申請私有測試;Workers 可提供單向與伺服器串流 gRPC,但雙向串流仍需 Container。
CoreWeave股價與債券同受打擊,市場擔憂科技公司為AI建設承擔過重借貸,三家公司股價分別下跌8.8%、10%及11.3%。
報導稱銀行因接近內部曝險上限而分散風險,Oracle 信用評等降至 BBB−,AI 債券需求也同步降溫。
搜尋開啟後,手機透過隱藏 WebView 解析 DuckDuckGo 結果,挑出 6 段內容供模型回答,並為答案附上來源連結。
報導稱雙方已進入談判最後階段,但材料未披露預定啟用時間、投資金額或資料中心的建置細節。
這項方案試圖避開極紫外光微影,讓 GlobalFoundries 以較低 EUV 依賴切入邊緣與實體 AI 晶片製造市場。
AI 模型日益複雜,業者據稱將競爭重心由單一 GPU 效能轉向系統級整合,涵蓋 3D 封裝、光互連與軟體生態。
預付款協議將支援 KYEC 全資子公司 AeternZ 建置美國測試產能,Fort Worth 被指為可能據點。
該模型據稱採 2-bit 量化與量化感知訓練,主打在 24GB 記憶體內兼顧推論速度與模型能力。
Katti 任職約一年後離開;《華爾街日報》稱 OpenAI 計畫到 2030 年投入約 7,500 億美元採購算力。