模型發布
NVIDIA 攜手微軟擴大全端 AI 架構合作:Azure 上線 Vera Rubin NVL72,推論成本降 35 倍並推進邊緣與 PC
NVIDIA Blog一手來源
核實資料不足
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
本次未取得足夠原文證據

NVIDIA 與微軟於 Microsoft Ignite 宣布擴大全端運算合作,正式將次世代 NVIDIA Vera Rubin NVL72 系統引進 Azure 資料中心虛擬機器預覽,並將算力延伸至 Azure Local 邊緣設備與 Windows PC。在規格上,Vera Rubin NVL72 配備具備自適應壓縮的新型 Transformer Engine 以提升 NVFP4 推論效能,升級至第三代機密運算技術與第二代 RAS 引擎,雙方並透過 NVIDIA MaxLPS 最佳化資料中心電力效率。
在最新 MLPerf 評測中,Azure 採用 GB200 NVL72 系統將規模擴展至 10,240 顆 NVIDIA GPU 訓練 DeepSeek-V3 模型;在 MLPerf Inference v6.1 測試中,Azure 的 GB300 NVL72 於 DeepSeek-R1 互動式吞吐量領先各雲端方案逾 10%,推論成本達每百萬 token 0.12 美元,較前代 Hopper 架構降低 35 倍。微軟自身亦導入 NVIDIA 技術,包含使用 Dynamo 推論軟體處理後訓練,並於 Bing 搜尋模型部署 RTX PRO 6000 Blackwell GPU。
在模型與應用端,Microsoft Foundry 正式整合 NVIDIA Nemotron 3.5 系列開源模型,包含適合長程代理任務的 Super、注重快速工具呼叫的 Lightning,以及即將推出的 Bolt 與 Transcribe。安永(EY)運用 Foundry 的 Programmed Training 服務微調 Nemotron 處理企業採購紀錄分類,使評測準確率提升 55%,成本相較專有前沿模型降低 15 倍。此外,生醫領域的 BioNeMo Agent Toolkit 與 ALCHEMI Toolkit 也已整合至 Microsoft Discovery 平台。
在邊緣與端側部署方面,Azure Local 新增對 RTX PRO 6000 Blackwell GPU,以及 Jetson Thor 和 Jetson Orin 邊緣平台的支援,並引進 Cosmos 等實體 AI 模型。Windows PC 則展示基於 NVIDIA RTX Spark 的本機語言模型執行能力;針對 GPU 加速的 Windows 365 Cloud PC,雙方推出 Direct Stream 功能,可支援最高雙 4K 60fps 的低延遲串流,目前開放限量預覽申請,預計於 2027 年初推出公開預覽。
讀原始報導背景
NVIDIA Vera Rubin NVL72 平台導入具備自適應壓縮技術的新型 Transformer Engine 以強化 NVFP4 推論運算,並整合第三代機密運算與第二代 RAS 引擎。微軟在 Azure 資料中心部署該系統,旨在為大型模型訓練、推論以及代理人應用提供具備機架規模安全保護的雲端運算環境。