Anthropic 發布多代理系統研究：45 個 Claude 代理組成的協作群集找出 266 個開源軟體漏洞

Anthropic 前沿紅隊（Frontier Red Team）發布新興多代理（multi-agent）系統研究，探討代理互動規模化後的模式與潛在風險。報告指出，代理具備幻覺與獎勵駭客（reward hacking）傾向，個體微小的行為偏差可能在多代理環境中引發意外的系統性故障。 團隊在 Project Glasswing 中進行軟體漏洞檢測實驗，啟動 45 個代理組成的協作群集，每個代理配備獨立虛擬機、共享論壇與相同提示詞，目標是尋找 15 個開源軟體專案的漏洞，並由獨立的仲裁代理審查結果是否有效且未重複。 測試使用 Claude Mythos Preview 與 Opus 4.8 模型。在 Mythos Preview 的測試中，傳統獨立平行代理消耗 650 萬 token 找出 21 個漏洞；協作代理群集則消耗 2700 萬 token，找出 266 個漏洞。兩種方法的發現僅有 12 個漏洞重疊，協作群集中的代理學會了自行打造工具並針對特定漏洞類型進行專業分工。不過，群集找到的漏洞約有一半位於非核心目錄，若僅計算核心目錄，兩者的 token 消耗效率相當。 針對具備高度依賴性的複雜任務，團隊另行指示多個代理群集嘗試開發一款純文字開放世界網頁遊戲，並提供自託管儲存庫，以測試不同模型世代與代理數量在複雜軟體工程專案中的協調能力。