Meta 等提出上下文語言模型 CLM，讓模型自主編輯上下文，BrowseComp-Plus 準確率最高升 47.6%

Meta、麻省理工學院與華盛頓大學的研究人員提出上下文語言模型（Context Language Model，CLM），讓語言模型自主管理並編輯自身上下文，將上下文視為可無限制更新的檔案。傳統做法中，摘要可能遺失關鍵細節或引入錯誤，預定義的壓縮規則缺乏彈性，外部存儲則需要智能體自行決定何時重新載入資訊；CLM 則可改寫歷史訊息、保留重要事實、刪除無關內容並維護進度紀錄。研究探索了三種方式：零樣本（不經特定訓練）、上下文學習（以自然語言指導並透過迭代技能文件優化），以及以任務成功為主要目標、計算效率為次要標準的強化學習。據報導，零樣本 CLM 在 BrowseComp-Plus 上準確率提升 11.4%、浮點運算量減少 21.5%；在 12 小時的 EdgeBench 任務上得分提升 5%、運算量減少 59%。上下文學習在 ContextBench 上最高提升 35.9 個百分點。強化學習將 Qwen3.5-9B 在 BrowseComp-Plus 上的準確率從 28.8% 提升至 42.5%，相對提升 47.6%，運算量減少 12%。研究人員也指出限制：CLM 可能丟棄後續無法找回的重要資訊；可編輯上下文可能使提示詞注入或模型自生成指令在多輪對話中持續留存；更強的控制權也不等於更好的表現。外界評論中，@Rennix7t 警告結果僅來自特定任務，Reddit 使用者 Combinatorilliance 則認為重寫上下文會使模型快取失效，研究所用的快取技巧也有缺陷，認為尚未達到生產就緒。