Google 發布開源編譯器 HEIR,可將預訓練 AI 模型轉為同態加密推論
HEIR 旨在讓非專家也能一鍵部署加密推論,已獲多家硬體加速器商支援,並於 GitHub 開源推薦系統與詐欺偵測等四項應用範例。
48 則值得知道的變化
HEIR 旨在讓非專家也能一鍵部署加密推論,已獲多家硬體加速器商支援,並於 GitHub 開源推薦系統與詐欺偵測等四項應用範例。
專為大規模 AI 叢集設計,新架構整合光學引擎與交換晶片,功耗降至傳統方案五分之一,最大機型具備 409.6 Tb/s 交換能力。
輝達日前宣布與六家金融機構合作建立融資平台,高盛將透過旗下部門提供次順位資本與私募信貸,並與黑石及阿波羅等巨擘共同參與。
雲端商 CoreWeave 以價格優勢延長 A100 服務,輝達近期籌資 5,000 億美元投入 AI 基礎設施,凸顯硬體壽命對投資價值的關鍵作用。
新功能結合安全網頁閘道與 TLS 解密,能直接在網路層解析 JSON-RPC 參數,防範 AI 代理繞過核准路徑造成資料外洩。
該平台可部署於本地或雲端,透過 ACP 協定整合第三方代理,並能串接 Slack 與 GitHub 執行排程與事件觸發任務。
該公司透過 CUBE 5.0 模組化架構不僅提升運算密度,更將全球模組化產能擴增三倍,以因應日益加速的 AI 基礎設施需求。
該倡議旨在解決銅線傳輸物理極限,協助 AI 運算叢集從 72 個節點擴展至逾千個節點,預計第四季提交首批規格書。
隨著 Nvidia NVL72 與 Google TPU Rack 等機櫃成為基本部署單位,AI 系統效能競爭已從單一運算晶片轉向涵蓋 PCIe、交換器與光通訊模組的 Fabric 互連網路。
為解決傳統 PUE 無法衡量算力價值的侷限,商湯以每瓦生成 Token 數為新標尺,並透過智能調度系統在臨港 AIDC 提升 60% IT 承載力。