前瞻與傳聞
傳輝達正開發破兆參數 Nemotron 4 模型,同日發表 Nemotron 3.5 Lightning 與 NeMo Switchyard 路由庫
Techmeme綜合 3 家報導多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。
據《The Information》報導,輝達(NVIDIA)正開發新一代 AI 模型家族 Nemotron 4,其中最大規模的模型預計將具備超過 1 兆個參數,目標與全球頂尖的開源模型競爭。目前該模型尚未完成最終訓練,也未訂出發表日期,但參與員工透露最快可能在秋季末準備就緒。
輝達生成式 AI 副總裁 Kari Briski 在郵件中表示,投資 Nemotron 是因為相信每個企業與國家都需要可及的前沿開源模型。作為對比,前一代 Nemotron 3 Ultra 550B 採用混合 Mamba-Transformer 架構與 NVFP4 預訓練技術,為每次 token 啟動 55B 參數的專家混合(MoE)模型。
此外,輝達同日發表了 Nemotron 3.5 Lightning 模型,主要針對程式碼審查、工具呼叫、安全警示監控與帳單諮詢等任務。同時釋出開源模型路由庫 NeMo Switchyard,可根據不同 AI 任務需求,自動將任務引導至最適合的模型。
讀原始報導背景
Nemotron 是由 Nvidia 開發的人工智慧模型系列,涵蓋大型語言模型與多模態模型,主要用於推理、程式編寫與代理式 AI 等應用。其前一代模型 Nemotron 3 Ultra 於 2026 年 6 月推出,是一款總參數達 550B、啟動參數為 55B 的混合 Mamba-Transformer 專家混合(MoE)模型。
來源
- 中央社 科技cna.com.tw
- iThomeithome.com
- en.wikipedia.org
- research.nvidia.com