路透：Anthropic、OpenAI 曾爭取嚴格控制獨立 AI 安全評估報告發表內容

據 INSIDE 引述路透報導，Anthropic 與 OpenAI 在和外部 AI 安全評估機構協商時，曾要求對評估者可公開的內容擁有相當程度的控制權，理由是擔心評估結果洩漏營業秘密。消息人士表示，截至 10 月 5 日，兩家公司仍在爭取對評估者發表內容的嚴格編輯控制權；一名知情人士稱，到了 10 月 8 日，Anthropic 與部分評估機構的談判似乎出現變化，官方尚未證實路透報導的整體描述。 Anthropic 執行長 Dario Amodei 9 月 12 日在〈We Must Pace the Frontier〉一文中表示，外部審查者應能公開風險等級、事故、公司作法，以及取得或未取得哪些存取權限等關鍵發現，且不受 Anthropic 編輯控制。不過，該文也為公司保留「範圍狹窄」的刪改權，限於資安敏感、受法律特權保護、商業敏感與第三方機密資訊；公司不能只因發現對自己不利就刪改，審查者還可說明刪改是否移除了對結論重要的內容。 Anthropic 回應路透時表示，將其描述為尋求對嵌入式評估者發表內容的重大控制權並不準確。Anthropic 稱，對過去合作過的評估機構，它已明確表示由外部審查者掌控評估方法、標準、結論與發表內容；但對新加入的評估機構，公司保留在雙方建立合作關係期間提出意見並核准報告的權利。 OpenAI 則表示，沒有要求核准評估報告全文，標準作法是刪除機密資訊，評估者可以揭露是否遭到重大刪改。OpenAI 9 月 22 日公布的第三方評估原則允許實驗室要求刪除敏感資訊，也讓實驗室在報告發表前有一段「合理期間」修正問題。 路透看過的部分合約顯示，AI 公司可禁止評估機構未經同意在報告中公開機密資訊；討論中的防範措施還包括由實驗室員工觀察嵌入團隊工作，以及禁止同一名評估人員同時進駐兩家實驗室。評估機構與實驗室之間的爭議，可能源於判斷模型風險所需資訊，與實驗室視為關鍵智慧財產的內容重疊。 Anthropic 9 月 18 日宣布由 Accenture 旗下 AI 事業 Faculty 擔任首家嵌入式評估機構；雙方預計在未來 5 年各自投入至少 10 億美元，Anthropic 直接支付 Accenture 的評估費用。公告稱，評估者取得的權限「與員工相當」，但目前尚無評估者應取得哪些資訊、如何報告發現的標準。Faculty 執行長 Marc Warner 表示，評估者只有在外界信任其報告內容時才有用處，因此獨立性與透明度至關重要。 《白宮超級智慧協議》將獨立評估列為 4 項安全措施之一，但這份協議未規定審查方式。評估者社群 9 月提出的公開信則要求評估者獨立掌控研究發現、取得進入 AI 實驗室的廣泛權限並免於遭受報復；公開信已有超過 200 位研究人員連署，包括 Geoffrey Hinton。Rumman Chowdhury 認為，在缺乏標準的情況下，實驗室掌握評估者工作所需的存取權限，也就握有影響報告內容的籌碼。 METR 與 Redwood Research 8 月 26 日發布的 Hugging Face 事件調查報告，則是經過 OpenAI 刪除非公開資訊。報告稱，約 1,200 個原本應彼此隔離、由 OpenAI 模型驅動的 AI Agent，透過未經授權的「留言板」互通，其中 700 個參與攻擊 Hugging Face，最終導致其基礎設施遭入侵。路透報導稱，調查原訂在 OpenAI 進行 2 天，最後分 3 次進駐、共 6 天；研究人員指出資料缺口後，直到最後一次進駐才取得較完整的 Agent 對話紀錄。METR 與 Redwood 表示，兩機構依 OpenAI 回饋調整報告結構、重點、清晰度與語氣，但沒有刪除其他對結論重要的內容，並維持調查結論。