跳到主要內容
2026-11-21 日報
模型發布

Thinking Machines Lab 開源 Inkling 2 Mini:26.4B 參數中間層循環架構,主打筆電可跑的本地推論

Techmeme綜合 2 家報導多家報導
核實資料不足

多個報導來源提及此事;未必是彼此獨立的證據。

本次未取得足夠原文證據

Thinking Machines Lab(TML)釋出開源權重模型 Inkling 2 Mini,總參數約 26.4B(實體總量約 26B),每個 token 活躍參數約 3B,採用 Mixture-of-Experts 架構,官方定位為小到可在筆電上執行的快速模型。其關鍵設計是將部分中間層循環執行三次,據 HuggingFace 部落格說明,這使模型在不增加實體參數的情況下發揮近似更大容量的效果,並宣稱能以較少 token 達到更好的推理表現。模型支援 1M token 上下文,接受圖像與文字輸入。權重採混合精度格式發布,專家權重為 NVFP4 與 MXFP8,另附 DSpark 草稿模型,可在少量記憶體成本下進一步加速推論。HuggingFace 部落格在非正式的體感測試中認為其表現至少與 Qwen 3.8 27B 相當,但並指出仍需更多驗證;該篇也表示 Inkling 2 Mini 遠小於 Inkling 2 Small,專為本地 AI 環境設計。以上效能比較目前僅為部落格的主觀測試,尚無獨立的標準化評測數據。
讀原始報導

背景

循環式 Transformer(Looped Transformer)是讓同一組層被重複執行的架構,相關研究也探討它與 Mixture-of-Experts(MoE)結合後的 scaling laws。搜尋結果中的 SMELT 論文指出,只循環中間一半的層,效果優於整體循環。

來源