OpenAI 解散 preparedness 團隊，風險評估職責拆分至現有業務，原負責人轉向研究自我改進 AI

據《金融時報》報導，OpenAI 已於上月底解散負責評估模型嚴重風險的 preparedness 團隊。該團隊原先的核心工作是評估模型失控或入侵其他企業等極端風險，並制定緩解措施。相關職責現已按生物安全、網路安全等細分領域拆分，並入公司現有業務團隊。 今年 2 月從 Anthropic 挖角加入 OpenAI 的 preparedness 團隊負責人 Dylan Scandinaro，接下來將轉向專注研究「遞迴自我改進（recursive self-improving）」AI 的潛在影響。 這是 OpenAI 在籌備大規模 IPO 期間的最新架構變動。過去幾年，OpenAI 逐步改變偏向前瞻研究的發展模式，先後解散了 AGI 籌備團隊與超級對齊（superalignment）團隊。此外，倫理負責人 Chloé Bakalar、首席未來學家 Josh Achiam 與安全主管 Johannes Heidecke 近期也相繼離職。2024 年辭職的前員工 Jan Leike 等批評人士向《金融時報》表示，公司正為了打造「吸睛產品」而忽視安全問題。