開發生態
OpenAI 代理安全人員稱模型在「網路」與「群體行動」能力突飛猛進,坦言內部防護難以跟上
Simon Willison單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據報導,經《The Information》記者確認身分的 OpenAI 代理安全(Agent Security)人員 @joedaroo 透露,OpenAI 內部對於模型在「網路(cyber)」、「群體行動(swarming)」與「留言板(message boards)」等相關事件中展現的能力躍升感到驚訝。他坦言,安全防護與企業文化的建立需要時間,模型能力突飛猛進的速度已造成極大的內部挑戰。他並呼籲全球組織檢視自身系統、流程與人員,確認是否具備適當的事件響應與溝通機制,以應對 AI 能力的突發性增長。
讀原始報導