跳到主要內容
2026-10-16 日報
模型發布

llama.cpp 提交 PR 支援 Nemotron 3.5 Super VL 與 Bolt 74B A9B,Unsloth 同步放出 GGUF

Reddit r/LocalLLaMA單一來源
核實資料不足

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

本次未取得足夠原文證據

據 Reddit r/LocalLLaMA 貼文(單一來源,尚未證實),ggml-org/llama.cpp 提交了 PR #30520,為 Nemotron Super 3.5 VL 與 Nemotron Bolt 74B A9B 新增支援,貼文者形容為模型發布當天即有支援(day 0)。貼文者指出,數分鐘後 Unsloth 在 Hugging Face 上架 NVIDIA-Nemotron-3.5-Super-VL-120B-A12B 及其 GGUF 格式版本,模型名稱中的參數規模為 120B 總參數、12B 啟用參數。材料未提供模型架構細節、基準測試結果或授權條款,也未說明 PR 是否已合併,以及 Bolt 74B A9B 的模型來源與可用性。
讀原始報導

背景

llama.cpp 是以 C/C++ 撰寫的開源函式庫,用來在各種大型語言模型上執行推論,與 GGML 張量函式庫共同開發,並附有命令列工具與帶簡易網頁介面的伺服器。它被視為幾乎所有本地推論工具核心的事實標準。GGUF 是其常用的模型格式,會把權重、tokenizer 設定、模型架構參數與 chat template 打包在同一個檔案中。

來源