研究與評測
論文提出 RAG 上下文分配法則:循序生成取代單一寬上下文,召回率提升達 20.5%
HF Daily Papers一手來源
尚未逐項核實
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
最新論文《The Laws of Context Allocation》指出,檢索增強生成(RAG)在證據利用率測量與上下文預算分配上存在瓶頸。研究發現,傳統相關性指標(如 BM25 與查詢-文件餘弦相似度)在面對無關查詢的負樣本時表現極佳(AUC 0.99),但換成同查詢且主題密集卻無答案的「困難負樣本」時,準確率會暴跌至隨機水準(AUC 0.57)。
為此,研究團隊提出「因果留一探測器(causal leave-one-out probe)」,在困難負樣本下仍能維持 0.85 的 AUC,準確測量模型對證據的實際依賴。
在上下文分配方面,研究證明傳統擴大單一上下文(monolithic context widening)的策略會導致相關性衰退。若將固定的證據預算分配給多個連續的窄上下文進行「循序生成」,其組合召回率(portfolio recall)可絕對提升 16.7 至 20.5 個百分點,且此效應在 32B 參數模型上依然穩健。
團隊最終整合出一個閉環子模組調度器(closed-loop submodular scheduler),每輪讀取探測器回饋來降級已飽和的證據並提升未充分利用的證據,搭配歸因引導的對比解碼器強制模型整合新資訊。相關程式碼與包含 1.15 萬筆紀錄的基準測試集已於 GitHub 與 Hugging Face 開源。
讀原始報導背景
檢索增強生成(RAG)在評估模型是否真正利用檢索文件時,常面臨測量失準與上下文分配不佳的瓶頸。為解決此問題,研究人員結合了次模排程(Submodular Scheduling)與對比解碼(Contrastive Decoding)等技術,提出全新的因果測量與封閉迴圈排程架構。
來源
本期分類