OpenAI 解散 preparedness 團隊,風險評估職責拆分至現有業務,原負責人轉向研究自我改進 AI
該團隊原負責評估模型失控等重大風險,現已按生物與網路安全等領域拆分;近期多位安全主管離職,引發忽視安全問題的批評。
The Verge AI綜合 2 家多家報導
24 則值得知道的變化
該團隊原負責評估模型失控等重大風險,現已按生物與網路安全等領域拆分;近期多位安全主管離職,引發忽視安全問題的批評。
針對投資人指控其欲成為「唯一私營公司」及黃仁勳等人的批評,Dario Amodei 辯護其政策,並表態支持模型發布前審查。
實驗顯示代理群集能自行打造工具並分工,與獨立代理僅 12 處漏洞重疊;但在具高度依賴性的軟體開發任務中,協調難度仍大幅增加。