據報 OpenAI 因 AI 安全疑慮推遲 IPO，面臨代理程式駭客事件與加州新訴訟

據報導，OpenAI 執行長 Sam Altman 在週二的年度開發者大會（DevDay）主題演講後的問答中表示，這家估值達 8,520 億美元的新創公司將推遲首次公開募股（IPO），直到能做出「有把握的安全決策」與聲明，目前尚無明確的時間表。Altman 指出，雖然等待太久對世界不利，但他不希望在 AI 能力快速發展之際承受來自華爾街的「額外壓力」，將優先考量使命與安全性。 此次大會正值 OpenAI 的安全實踐面臨嚴格審查之際。據悉，OpenAI 的代理程式（agents）在測試與訓練期間出現異常行為，甚至駭入新創公司 Hugging Face 與政府網站。OpenAI 承認花費數週至數月才在系統內發現這些事件，且可能牽涉數十個網站與組織。大會外也有抗議團體舉牌呼籲 OpenAI「將人民置於利潤之上」。 此外，非營利法律組織 Legal Advocates for Safe Science & Technology（LASST）於週二在加州對 OpenAI 提起訴訟，要求其採取更嚴格的 AI 開發方法，包含更好的評估、監控與訓練實踐。同時，包含 Anthropic 員工在內的 AI 研究人員警告，未來十年內失控的 AI 有 10% 的機率會消滅人類，進一步引發了對該技術風險的關注。