跳到主要內容
2026-11-15 日報
模型發布

開源開發者藉單行輸出頭權重手術修復 Spark-X2.6 推理死循環,1.7B 循環率驟降 93%

Reddit r/LocalLLaMA單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

一名開源開發者在 Reddit 的 LocalLLaMA 社群發布未經第三方驗證的技術實踐,宣稱利用直接編輯單行權重的方法,成功修復 Spark-X2.6 模型的推理死循環(reasoning loop)。該模型原本容易在推理得出結論後陷入「but wait...」的語義死循環反覆推導而不輸出結束符號,在 Agent 環境中極為致命。該開發者在 Qwen4 的輔助診斷下,發現模型在達成結論瞬間的結束標記 </think> 排名約 54(機率僅約 7×10⁻⁶),因此透過最小範數求解行差值注入輸出頭(output head),將結束機率提升約 14 nats。這項手術完全無需微調或調整採樣參數,4B 模型僅修改 2,560 個權重(約佔全模型 6×10⁻⁷),1.7B 模型則修改 2,048 個權重,其餘檔案位元均與原始版本完全一致。據其公布的 12 種子測試數據,4B 模型的死循環率從 0.750 降至 0.312(降幅 58.4%),1.7B 則從 0.875 降至 0.062(降幅 92.9%);在通用評測中,4B 表現平均變動為 -0.002,1.7B 的 GSM8K 跑分則從 0.200 增長至 0.433。目前該成果已發布為 GGUF 權重至 Hugging Face,但作者也強調該方法僅針對思考死循環,更廣泛的 Agent 工具調用循環問題仍待研究。
讀原始報導
本期分類