模型發布
UkisAI 推出 Swift 1.5 GLM-5.3-Flash 與 Ornith 9B:自報思考 token 最多減 61.4%、準確率僅損 0.46%
Reddit r/LocalLLaMA單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據
UkisAI 在 Reddit r/LocalLLaMA 發文,宣布擴充 Swift 模型系列,推出兩款以推理效率為重點的模型。以下數據皆為作者自行公布,尚未獨立驗證。
Swift 1.5 GLM-5.3-Flash 的主要指標為 MMLU-PRO 思考 token 減少 61.4%。作者稱在 Terminal-Bench 2.1、DeepSWE v1.1、GPQA-Diamond、MMLU-Pro、C-Eval、IFBench、AIME 2026、HMMT、LiveCodeBench v6 等九項基準上,以五組隨機種子測得平均準確率損失 0.46%。團隊表示,其方法是找出與病態過度思考相關的 token 並加以懲罰,再透過 RL 與 on-policy distillation 的後續訓練回復準確率。
Swift 1.5 Ornith-9B 的思考 token 減少 33.5%,作者稱準確率無損失,並表示過度思考迴圈約減為一半(約 2 倍),模型較不易陷入循環而無法完成提示。此版為實驗性發布,模型在套用 token 最佳化前已完成後訓練。
釋出內容方面,GLM-5.3-Flash 提供 GGUF(1 至 8 bit)、W4A16 AWQ 與 NVFP4 等量化版本;Ornith 9B 提供 GGUF(4 至 8 bit)。兩者皆可搭配原模型的 MTP 或 DFLASH2 預測頭使用。團隊另表示,正在獨立複製 GSQ-RCO 論文,初步結果顯示其 Q3 GSQ-RCO 量化在同尺寸中達 SOTA,待評估套件完成後將於數日內釋出。
作者亦透露,團隊正在評估 Swift DeepSeek v4.1 Flash 1017,初步認為是目前最佳的模型。此外規劃自家基礎模型,貼文中提到 1B 與 4B 版本預計於 2026 年 11 月釋出。
讀原始報導背景
GSQ-RCO 是一種模型量化(quantization)方法。根據搜尋結果,GSQ 會以指定的低位元量化類型,對模型的每個張量(tensor)做精確的純量量化,RCO 則在給定的大小預算下,為每個張量分配量化類型。