完整日報

AI 日報 2026-10-17

67 則值得知道的變化

要聞

3 則

專為編程與代理設計，採用 43 層滑動視窗與 9 層全域混合注意力降低推論快取，並獲 vLLM 與 SGLang 首日原生支援。

該模型採 MoE 架構並支援百萬 token 脈絡，經 NVFP4 量化後透過 Thunderbolt 5 RDMA 串接，4 台設備生成速度超過 36 tokens/s。

採在策略殘差學習與 CUDA Graph，ORL 於 H100 單請求達 1,298 tokens/s，較 DFlash 投機解碼快 1.74 倍且維持準確度。

6 則

提供基礎與蒸餾版本，INT8 格式僅需 8GB 顯示卡記憶體即可運行，RTX 5090 生成 1MP 影像約需 4 秒。

內含 2.6 兆原生文字與 2,246 億羅馬化 Token，以 Gemma-4-31B-it 搭配 NeMo 工具生成，完整保留公式與程式碼。

該模型具 256 位專家並提供 FP8 與 NVFP4 格式，宣稱推論 Token 用量減少約三倍，SWEBench Verified 達 81.6%。

模型採 30B 總參數與 3B 活躍參數設計，社群頁面主打記憶表現突破，完整評測標準與技術細節仍待官方進一步公開。

本次釋出包含 Base 基底模型，並延續團隊慣例採 Apache 開源授權，惟官方目前尚未公布具體架構規格與跑分數據。

結合 0.6B ASR 與 14M 因果 GRU，搭配 Gemma 實現可本機運作的語音代理，支援工具調用但需 28GB 顯示記憶體。

1 則

草案亦全面禁止自主惡意程式 AI 出口；受限技術安裝於海外本地伺服器須專案許可，但 API 存取與開源發布採登記即放行。