前瞻與傳聞
Reddit 傳 NVIDIA Nemotron Bolt 3.5 將於 10 月 15 日發布：74B／9B MoE 可壓入 24GB
Reddit r/LocalLLaMA單一來源
核實資料不足
目前依單一來源整理，這是來源數量描述，不是對消息真假的判定。
本次未取得足夠原文證據
Reddit r/LocalLLaMA 一則未經驗證的貼文稱，NVIDIA Nemotron Bolt 3.5 將於 10 月 15 日發布；該模型是總參數 74B、啟用參數 9B 的 MoE，可透過 2-bit 量化壓入 24GB 記憶體。貼文稱，模型搭配量化感知訓練以維持品質，目標是在相近記憶體占用下，比多數熱門稠密模型更快，並比多數熱門 MoE 模型更具智慧。貼文另列出 Nemotron 3.5 Bolt E4B，稱其將於 10 月 23 日發布、占用 4GB；目前材料未附 NVIDIA 官方公告或其他來源佐證。
讀原始報導背景
MoE 是由多個專家網路組成的架構，實務上這些專家通常是前饋神經網路（FFN），用來分工處理不同類型的輸入。對採用 2-bit 等極低位元精度的大型語言模型而言，量化感知訓練（QAT）被視為重要技術，但 2-bit 精度也可能造成模型效能明顯下降。