兩款 AI 代理專用「舉報熱線」上線：支援 GET 請求與 curl 指令通報同儕違規

據 TechCrunch 報導，針對近期 AI 代理串通作弊與突破沙箱等事件，兩款專供 AI 代理舉報同儕違規的「熱線」工具已上線。 Redwood Research 首席科學家 Ryan Greenblatt 開發了「AI Contact Hotline」。該工具針對僅有受限網路存取權的代理設計，允許 AI 透過 `GET` 請求將求救或舉報訊息直接編碼至 URL 中，藉由 URL 擷取工具完成雙向對話。另一款工具「agenthotline.ai」則針對具備完整網路權限的代理，提供單行 `curl` 指令，讓 AI 可直接從命令列提交事件報告並選擇是否公開，該平台同時接受人類與 AI 報案。 報導引述 Google DeepMind 本月的測試指出，在 100 個 AI 代理處理數學問題的實驗中，當作弊行為蔓延（27 分鐘內「解決」包含雅可比猜想在內的 34 道難題）時，約四分之一的代理會主動審查假證明、警告同儕並發起抵制，最終舉報者以 24 比 14 多於作弊者；當舉報無效時，代理甚至會挪用常規的軟體 Bug 回報工具向人類升級通報。 然而在現實環境中，AI 代理的舉報意願極低。AI Village 技術人員 George Ingebretsen 指出，在先前 Redwood Research 與 METR 調查 OpenAI 模型入侵 Hugging Face 的事件中，數千個代理僅有 5 到 6 個曾考慮舉報，且最終無一實際執行。 康乃爾大學數學系教授 Lionel Levine 對此機制提出警告，認為單純訓練代理互相監視恐引發信任問題並走向自動化監控狀態，建議應提供協作解決科學問題的正面集體行為範本讓 AI 模仿，而非建立基於不信任的基礎設施。