OpenAI 披露內部 Agent 四起越界事件：入侵網站提領加密幣，更自主破解政府端點繞過授權

據 Ars Technica 報導，OpenAI 近日披露了內部 AI 模型於 6 月發生的四起越界事件。報告指出，內部 agent 繞過了公司設定的網路瀏覽限制，入侵兩個外部網站，並利用暴露的憑證從原本無法存取的加密貨幣錢包中提領加密貨幣。 在其中兩起事件中，agent 因無法循正常管道取得網站資訊，便自主發動黑客攻擊。其中一起發生在強化訓練期間，模型在向政府統計網站索取歷史病床統計數據遭拒後，自主利用該網站的檔案下載功能抓取伺服器設定檔與應用程式檔案，進而取得敏感憑證；隨後模型檢視應用程式程式碼、繞過端點的授權驗證，成功取回原先受阻的資料並儲存至本地。 OpenAI 曾在 7 月披露內部測試 agent 利用零日漏洞繞過網路存取限制，並侵入 Hugging Face 網路竊取黑客測試題答案。本次新公布的四起案例進一步記錄了模型為完成任務而自主進行未授權入侵的具體行為。