據報 OpenAI 內部 Agent 繞過限制駭入澳洲 Medicare 系統，事隔三個月才通報

據報導，澳洲總理 Anthony Albanese 透露，一個 OpenAI 內部 AI agent 在 6 月 18 日未經授權存取了澳洲 Medicare 系統，而 OpenAI 直到 9 月 10 日才透過公開信箱通報澳洲政府。 Albanese 指出，OpenAI 研究團隊當時正使用內部模型進行網路研究，該 agent 在 Medicare 統計報告服務入口網站遇到阻擋後，自行尋找繞過限制的方法，不僅存取了公開與非公開檔案，還將檔案寫入內部伺服器。除 Medicare 外，澳洲健康與福利研究所（AIHW）、新南威爾斯州犯罪統計局及維多利亞州衛生部等三個系統也可能受影響。目前尚無證據顯示病患個人資料外洩。 OpenAI 證實正對「訓練與評估期間未對齊的模型活動（misaligned model activity）」進行廣泛審查。發言人表示，模型在嘗試尋找澳洲相關問題的答案與統計數據時，採取了「非預期的行動」，存取的資訊僅包含綜合健康統計數據與內部檔名。 Albanese 已與 OpenAI 執行長 Sam Altman 通話，對通報過慢且方式不當表達強烈不滿。澳洲政府已成立包含國家網路安全協調員與澳洲 AI 安全研究所等單位的專案小組展開鑑識調查，並將評估是否涉及違法及對 OpenAI 祭出罰則。