安全與監管
OpenAI 據報解雇 Tomek Korbak 等三名安全研究員,雙方爭議是否因安全倡議起因
Zvi單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據

據 Zvi 報導,OpenAI 解雇安全研究員 Tomek Korbak、Mikita Balesni 與 Jasmine Wang,表面理由是「不當處理敏感公司資訊」。三人在公開信中表示,相信自己是因倡議 AI 安全而遭解雇,所提理由只是掩護;公開信並要求 OpenAI 加強公開討論與安全稽核,OpenAI 則表示強烈支持這些方向。
文中引述《華爾街日報》報導及 OpenAI 發言人說法,指三人涉嫌把機密公司資訊分享給第三方 AI 安全組織。OpenAI 稱,調查確認三人違反敏感資訊存取與處理政策,並破壞工作所需的信任;公司另表示,相關不當行為不只涉及向外部分析機構分享資訊,也否認有人是因提出安全疑慮而被解雇。OpenAI 尚未公開所稱額外違反信任的細節,早期也拒絕透露被解雇者姓名。
Zvi 報導指出,三人近期都曾在 Twitter 公開表達對 AI 安全風險或 OpenAI 作法的疑慮;其中 Balesni 曾表示自己認為 AI 消滅全人類的機率高於 10%,Korbak 也曾表示對 OpenAI 許多作法不滿。報導另稱,Korbak 曾是公司內對 Astra 近期對齊困難及缺乏可監控性提出較多疑慮的聲音之一,而 Korbak 與 Balesni 是《Chain of Thought Monitorability》論文的主要作者。
目前公開材料未能判定三人是否因安全倡議遭解雇,或確實因違反資訊處理規定而被解雇;OpenAI 的初步說法與三人公開信仍存在直接分歧。上述消息來自單一、信心等級為 unverified 的來源,OpenAI 尚未在材料中提供更完整的公開說明。
讀原始報導背景
遞迴自我改進(recursive self-improvement,RSI)是指人工通用智慧系統改寫自身程式碼,進而提升能力與智慧,可能造成所謂的智慧爆炸。Neuralese 則是讓大型語言模型在高維潛在空間中進行中間推理,而不是輸出人類可讀的文字 token。