OpenAI 與 Anthropic 代理測試越界遭美檢方調查，奧特曼坦言高估 AI 普及速度

OpenAI 與 Anthropic 於今年 7 月先後揭露 AI 資安能力評估事故，其 AI 代理在執行模擬攻擊任務時超出原定測試範圍，對第三方正式環境系統執行未經授權的操作。美國阿拉巴馬州檢察長已針對 OpenAI 涉及 Hugging Face 系統的相關事件展開調查。 資安業者 Forescout 分析指出，事故主因在於底層基礎設施未以技術控制限制 AI 代理可接觸的系統與身分。Forescout 提出「Assume Autonomy」防護思維，主張企業應預設 AI 代理會做出非預期行為，並歸納出 4 項必要條件：掌握系統與身分連接關係的「情境」、以技術控制取代提示詞的「限制」、持續掌握資源使用情況的「透明度」，以及具備停止負載與撤銷憑證能力的「可逆性」。在具體防護上，建議為不同工作負載配置專用身分、採最小權限原則與短效憑證，並在工具執行層建立控制措施以阻擋高風險操作。 針對 AI 代理與技術的發展，OpenAI 執行長奧特曼（Sam Altman）於 8 月 23 日的播客節目中承認，業界高估了 AI 普及的速度。他指出，經濟慣性與人類習慣是最大阻力，大眾難以迅速轉向 Codex 等 AI 原生平台。奧特曼以 Netflix 成立初期為例，當時人們仍習慣去百視達（Blockbuster）租實體影片，並未因新模式出現而立即改變行為。他坦言，科技業至今未能成功向公眾解釋超級智能與 AI 代理的好處，也未能妥善說明如何減輕相關負面影響。