研究提出 DISCO 分散式長上下文架構，分離提取與推理任務，百萬 token 準確率達 78.4% 並降本 80%

研究團隊提出 DISCO（DIStributed long COntext scaling）架構，旨在解決大型語言模型處理長文本時，因龐大搜尋負擔耗盡表示能力而導致推理品質崩潰的「上下文腐敗」（context rot）現象。 該架構借鑒 Apache Spark 等分散式運算框架，採用「提取與推理分離」機制。系統將長上下文分割給多個 Worker LLM 進行平行的局部資訊提取（grounding）；中央的 Driver LLM 則透過 GRPO 強化學習最佳化規劃能力，負責將查詢動態拆解為原子任務，並彙整 Worker 收集的證據以合成最終答案。 透過隔離推理與原始上下文雜訊，DISCO 在 RULER-QA（100 萬 token）測試中維持 78.4% 的準確率，避免了標準模型的效能崩潰。此外，該架構在 LongBench v2 領先全上下文模型達 9.8 分，並在匹配 Gemini-3-Pro-Preview 等前沿模型表現的同時，降低超過 80% 的推論成本。