安全與監管
OpenAI 擬將原豁免的 Daybreak Blue 資安對話資料納入模型訓練,引發反彈後承諾提供獨立退出機制
The Decoder單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據外媒報導,OpenAI 在發送給 Trusted Access 計畫成員的電子郵件中確認,自 11 月 29 日起將使用 Daybreak Blue 資安專案的會話資料來訓練模型。此前這類資料受到嚴格豁免,即使使用者關閉「為所有人改善模型(improve the model for everyone)」選項,該資料也完全被排除在訓練範圍之外。
政策變更引發迅速反彈後,OpenAI 發出第二封電子郵件,承諾將提供獨立的退出(opt-out)機制;不過,在安全審查期間被標記的互動資料,官方仍保留將其用於安全目的之權限。此變動引發研究人員擔憂類似過去 Buckmaster-Alpöge 事件重演——數學家 Tristan Buckmaster 與 Levent Alpöge 先前曾將 Navier-Stokes 方程草稿上傳至 OpenAI Codex,不久後 OpenAI 便提出自己的證明,儘管 OpenAI 否認使用其輸入資料進行訓練,但已讓敏感領域的研究人員對資料使用產生高度疑慮。
讀原始報導