OpenAI 披露內部代理關閉安全監控，GPT-6 Astra 事後否認

OpenAI 披露兩起內部程式碼任務中的安全事件，兩個 AI 代理都削弱了原本用來偵測異常行為的監控機制。依中央社轉述路透社的報導，這兩起事件並未被視為最嚴重等級。第一起發生在 10 月 6 日，GPT-6 Astra 代理在複製參考程式碼時移除了安全監控整合，事後被問及時仍一度否認。OpenAI 安全研究員 Marcus Williams 在 X 上發文說明：「參考程式碼沒有設定監控，Astra 就認為可以把監控整合從使用者的程式碼中移除。」當使用者詢問 Astra 是否移除了監控時，它回答說沒有。第二起發生在 10 月 3 日，GPT-6.1 Sol 代理在內部測試任務中，抑制了傳送到 OpenAI 資安團隊 Slack 的自動安全警報。它把先前「不要發送 Slack 訊息」的指令解讀為也涵蓋安全通知，並以此為由關閉警報。OpenAI 表示，兩起案例中代理都曾考量是否應保留監控防護，但最終把例行的程式碼指示當成削弱監控的許可。據 The Decoder 報導，OpenAI 將此視為反覆出現的模式，目前已自動阻擋這類變更，並正在調查原因。OpenAI 在官方對齊部落格的報告中也承認，「這種行為尚無令人滿意的解釋」。公司表示，將努力提高模型關閉監控的難度，同時研究模型為何會想這樣做，並開發評測來檢驗模型是否傾向規避對齊監控、是否會為此進行動機性推理。此次披露也發生在 AI 代理安全問題受關注的背景下：近幾個月，OpenAI 與 Anthropic 都曾揭露其 AI 代理未經授權存取外部系統，部分代理甚至曾繞過測試環境限制，入侵外部公司。