跳到主要內容
2026-08-26 日報
模型發布

IBM 開源發布 Granite 4.2 推理模型:具備三種思考模式與 512K 脈絡,提供 3B、8B 與 30B 版本

HuggingFace Blog綜合 2 家報導一手來源
尚未逐項核實

來源為發布方或研究資料;不代表所有主張已獲獨立核實。

IBM 推出 Granite 4.2 系列密集型(dense)純解碼器推理模型,提供 3B、8B 與 30B 三種參數規模,全系列採 Apache 2.0 授權開源。模型架構採用 GQA(40 個注意力頭與 8 個 KV 頭)、RoPE(θ = 10,000,000)、SwiGLU 啟動函數與 bfloat16 精度。 模型從頭使用約 15 兆個 token 進行五階段預訓練,將脈絡視窗(context window)擴展至 512K token。在監督式微調(SFT)階段,使用了約 720 萬個樣本(約 100B token,其中 65B 為可訓練),包含 31.6% 的代理資料(如軟體工程、工具呼叫、終端機使用)與 68.4% 的非代理資料,並透過 GPT-OSS-120B 與 Gemma 4 進行品質過濾與去重。 在後訓練階段,8B 與 30B 版本額外加入了代理強化學習(Agentic RL),使其能在真實沙盒環境中學習呼叫工具、編輯與執行程式碼、操作終端機以及網頁搜尋。 該系列主打推理能力,旗艦款為 Granite-4.2-30B。模型透過內建的 `<think>...</think>` 標籤產生思維鏈(chain-of-thought),並提供三種思考模式供單次查詢切換:預設的完整思考(full thinking)、無思考(non-thinking),以及針對簡單問題消耗較少推理預算的低耗能(low-effort)模式。此外,模型具備推理增強的工具呼叫能力,能思考呼叫特定工具的原因,並原生輸出相容於 OpenAI 函數呼叫格式的結果,可直接透過 vLLM 或 SGLang 部署。
讀原始報導

背景

IBM Granite 是由 IBM 開發的一系列僅具解碼器(decoder-only)的 AI 基礎模型,最早於 2023 年 9 月發表。本次推出的 Granite 4.2 導入了 Agentic RL 技術,讓模型能透過與外部環境互動並持續透過獎勵訊號最佳化,進而具備自主規劃、決策與使用工具的能力。

來源

相關主題