普林斯頓團隊實測 AI 代理進行開放式研究：耗時 6 天撰寫之兩篇論文均遭專家拒絕

據 AI Snake Oil 報導，普林斯頓大學團隊與英國 AI 安全研究所（UK AISI）成員合作，針對前沿 AI 代理進行「影子評測」（Shadow evaluations），測試其執行開放式 AI 研究與遞迴自我改善（RSI）的能力。 研究團隊與兩篇未發表 AI 論文的原作者合作，將核心研究問題交由 AI 代理執行，並提供數千美元 API 額度、運算資源及 6 天時間。最終生成的兩篇論文均遭原作者明確拒絕。 團隊分析超過 100 小時的代理日誌後，列出五項具體缺陷： - 缺乏判斷力：代理雖提出令專家驚豔的研究方向，卻因低品質或合成資料而迅速放棄。 - 缺乏資源意識：儘管系統鼓勵耗盡預算且可監控用量，兩次測試結束時 API 預算花費均不到 50%，且未用盡時限。 - 無法創造性回應回饋：代理的 AI 自我審查已發現專家後續指出的問題，但代理僅在現有結論加入但書，或在無前途的方向加倍投入，未實質解決問題。 - 無法有效回溯：代理在實驗首日即放棄最具野心的目標，此後未曾根本性改變研究方法。 - 忽視具體指令：代理忽略了探索時間分配、自我審查頻率及論文長度限制等明確規則。 研究團隊總結，目前 AI 代理在狹隘的可驗證任務上雖有進展，但難以藉此推動廣泛的 RSI 或爆發性的 AI 發展。