加州簽署 7 項資料中心監管法案:電網與供水升級成本不得轉嫁用戶,並取消環評豁免
新法要求業者強制揭露 PUE、用水量與燃料消耗,並規定 2027 年起新併網合約若十年內退出須付解約費,引發產業擔憂開發外流。
81 則值得知道的變化
新法要求業者強制揭露 PUE、用水量與燃料消耗,並規定 2027 年起新併網合約若十年內退出須付解約費,引發產業擔憂開發外流。
新版大幅最佳化 Model Runner V2,使 H200 引擎初始化時間降至 8.2 秒,並針對 SM100 晶片新增 MXFP8 KV 快取與 NVFP4 量化支援。
此次更新帶來更高的快取命中率、全新診斷工具與明確斷點控制選項,協助開發者進一步降低 API 延遲與使用成本。
框架內建工具與記憶管理,支援多種主流模型與跨平臺容器部署,開發者可透過命令列測試代理原型,並輸出程式碼。
大會同步推出新一代 CPFS 儲存與 Agent Sandbox,並預告明年將推出支援 50 萬卡規模的靈駿真武 V900 超節點。
PAIR 支援多作業系統並可無縫整合 Ollama 與 LM Studio,將單一推論請求分配至可用節點,但官方強調不具備合併 VRAM 功能。
開發者現可直接載入 GGUF 檔案,底層共用 ggml 核心以貼近原生效能,並支援透過內建指令啟動 OpenAI 相容 API。
提供金絲雀、藍綠與滾動三種流量轉移策略,內建健康檢查與延遲等指標閘門,若升級觸發異常將自動暫停並支援無縫回滾。
官方承諾 24 小時內完成請求,支援文字與嵌入任務及自攜金鑰(BYOK),但音訊、影片與網頁搜尋外掛暫不適用。
異常波及 claude.ai、API 與 Claude Code 等服務,涵蓋 Opus 5 與 Mythos 5.1 等模型,目前已恢復正常。
阿里巴巴擴大涵蓋處理器、網路與儲存的垂直整合運算平台,於杭州雲棲大會宣布新一代加速器將提前約半年問世。
新版支援 ROS Lyrical 與 Ubuntu 24.04,提供代理就緒文件與技能,讓 AI 代理能協助微調感知模型並加速機器人應用開發。
該工具從雲端或地端擷取叢集拓撲,避免 GPU 跨域通訊瓶頸,已支援 Google Cloud、OCI 與 InfiniBand 環境。
德州州長要求資料中心不得影響當地水電資源,在州政府完成用電、用水及租稅優惠等全面稽核前,將一律暫停核發相關開發許可。
該框架採四層架構設計,具備全域安全護欄與記憶單元,旨在將行內業務 SOP 轉為標準化技能,目標實現每位員工配備數位員工的願景。
微軟澄清 Azure 近期 40% 至 45% 成長來自產能增加,而非 OpenAI 分潤,並坦言符合規格的基礎設施產能取得困難。
該模組專為 AI 基礎架構設計,採用 BiDi 技術將傳送與接收整合於單一光纖,預計 2027 年第一季向客戶出貨評估套件。
新版 Runtime 透過預先初始化並保存快照來加速啟動,同時改為動態記憶體配置,在 2GB 映像檔測試中展現顯著效能提升。
結束測試階段,正式版基於 Pyodide 運行於 WebAssembly 沙箱,自動處理 JS 型別轉換,並補齊 TCP Socket 以支援資料庫與 AI 應用連線。
這家歐洲 AI 雲端新創總融資額達 4.5 億美元,預計近期部署 NVIDIA VR200 NVL72,並於 2027 年將營運規模擴至 250 MW。
該工具僅需原始模型與 llama.cpp,透過演算法在張量層級最小化餘弦偏差以符合目標大小,實測在混合資料集表現可媲美 Unsloth。
開啟思考模式時,vLLM 會因歷史訊息誤判導致回覆解析失敗,且預設模板會丟棄先前的推理過程,修改模板與程式碼即可解決。