傳 Google、OpenAI 與 Anthropic 擬合組前沿 AI 安全機構 SAFA

據報導，Google、OpenAI 與 Anthropic 正籌備成立暫定名為「前沿 AI 標準局」（Standards Authority for Frontier AI，簡稱 SAFA）的獨立 AI 安全機構，最快於今年底或明年初推出。在白宮對建立類似美國金融業監管局（FINRA）機構的提案失去動力後，SAFA 初期將作為不受政府監管的獨立業界倡議運作，並期望未來能促成公私部門合作。該機構可能與現有的前沿模型論壇（Frontier Model Forum）並行運作。三家公司目前仍在討論 SAFA 應專注於制定標準，還是要在模型發布前親自進行測試。人事方面，Sriram Krishnan 與 Arati Prabhakar 被視為可能的執行長人選，Condoleezza Rice 與 David Friedberg 則為潛在的主席人選。據悉，其他 AI 公司對由這三家實驗室主導的倡議抱持懷疑態度。