Nvidia 攜手 BlackRock 等六大金融機構建 5,000 億美元融資平台,將 GPU 轉為可投資資產
該平台導入私募與信貸資金承銷資料中心建設,讓客戶無須耗費自身資產負債表即可採購硬體,具體融資條件與投入時間表尚未公布。
57 則值得知道的變化
該平台導入私募與信貸資金承銷資料中心建設,讓客戶無須耗費自身資產負債表即可採購硬體,具體融資條件與投入時間表尚未公布。
亞馬遜自 5 月起要求工程師節約運算資源,內部申請伺服器需苦候數天,且外部客戶的競價執行個體也越來越難取得。
新版加入對 Meta 專為 AI 代理設計的 Muse Glimmer 等模型支援,並針對線性注意力核心、快取裁剪 API 及 T5 模型的 SDPA 支援引入破壞性變更。
該模型採 2-bit 壓縮,完整運行僅需 28MB 記憶體,專為物聯網與平價手機設計,捨棄世界知識以換取極低的 70 MFLOPs 運算量。
該 30B 多模態模型專為本地代理任務打造,Ollama 透過 MLX 引擎支援影像輸入,可直接驅動 Claude Code 等開發工具。
雖然第三方平台標價便宜 36%,但 DeepSeek 官方憑藉 V4 架構將 KV Cache 大幅壓縮,實現近乎 100% 的快取命中率,使長會話成本僅為第三方的四分之一至十分之一。
透過快取教師模型前 100 大 logit 並分塊計算損失,新方法避免生成完整詞表矩陣,使單張 H200 即可執行長文本蒸餾。
Harness 預設內建函數呼叫與 OpenTelemetry 等功能,並提供 GitHub Copilot 與 Claude Agent SDK 連接器,統一納入 Foundry 儀表板進行治理。
新版升級 PyTorch 2.13.0,新增 JIT 預熱消除首次請求停頓,並初步支援 NVIDIA Rubin 架構與 SM100。
新模式改用受管 EC2 執行個體,支援多個代理共享環境與檔案以利接力協作,開發者需支付 EC2 費用與 AgentCore 管理費。
Cloudflare 發表涵蓋開發、部署與安全的完整 AI 代理基礎設施,包含支援生產環境審批的 Cloudflare Agents、代理專用錢包,並開源內部作業系統 Cloudflare OS。
科技巨頭今年發行約 2,000 億美元公司債,博通、Meta 與輝達的信用違約保費皆攀升,凸顯 AI 基礎建設帶來的融資壓力。
新興架構將生成結果存入獨立記憶系統,由輕量模型判斷是否沿用歷史解答,僅在必要時呼叫昂貴模型並存回新解答,降低長期成本。
該工具預設 AI 代理已遭入侵,改以監控容器對外網路請求取代程式碼限制,並結合靜態規則過濾日常操作,確保模型能安全部署。
新架構將推理與物理運算分離,結合 Nemotron 3 Ultra 模型與 ACE-RTL 代理,獲 Cadence 等大廠導入,最高達 20 倍模擬加速。
該座位於印度安得拉邦的 AI 基礎設施計畫首度面臨重大反對聲浪,環保團體主要針對水資源分配與野生動物保護提出抗議。
無需 Docker Desktop 即可運行,開箱支援 Claude Code 等主流代理,允許在沙盒內啟動容器,並提供企業級集中治理方案。