Yandex 研究團隊探討將 KV-cache 作為代理執行階段，藉修改推論狀態提升 LLM 互動性

據 Reddit 社群分享，Yandex 研究團隊發布了關於將 KV-cache 作為代理執行階段（agent runtime）的技術文章，旨在透過修改模型的推論狀態（KV-cache）來提升 LLM 系統的互動性與反應速度。此概念已應用於該團隊先前的《Hogwild! Inference》與《AsyncReasoning》論文中。團隊認為，相較於過於抽象的外部框架或成本過高的模型修改，推論與執行階段的設計是代理能力中尚未被充分探索的發展方向。文章同時預告了未來的研究計畫，將展示 Qwen3.8-27B 代理透過類似技術互動遊玩 DOOM 環境的成果。