OpenAI 呼籲針對 AI 遞迴自我改進（RSI）制定國際標準，提議由美國領導建立人類監督規則

據報導，OpenAI 正呼籲針對先進 AI 開發制定國際標準，特別聚焦於「遞迴自我改進」（Recursive Self-Improvement, RSI）。RSI 旨在讓 AI 系統自動化研發下一代 AI，可能大幅加速技術進展。 OpenAI 指出，完全自主的 RSI 目前尚未發生，且必須在確保安全的前提下才能推進；若缺乏成熟的防護措施，人類恐失去對 AI 發展的掌握，導致 AI 變得更危險且不對齊。 為此，OpenAI 提議由美國領導制定全球技術標準，並以各國 AI 安全機構及 CAISI、ISO 等組織為基礎。該標準應包含共享的測量方法、事件通報機制，以及針對自動化 AI 研究的人類監督規則。聯合國科學小組近期也提出類似警告，擔憂人類可能失去對自主代理群（autonomous agent swarms）的控制，建議仿效航空、核能與網路安全框架建立國際 AI 安全合作機制。