跳到主要內容
2026-11-17 日報
研究與評測

OpenAI 與 Goodfire 達成安全合作,此前曾探討以逾 50 億美元收購

iThome 中國單一來源
核實資料不足

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

本次未取得足夠原文證據

OpenAI 宣布與 Apollo Research、METR、Transluce 及 Goodfire 合作,啟動首階段「嵌入式評估」(Embedded Assessments)專案,共同進行模型可解釋性與安全評估。根據 Goodfire 公告,該公司將派遣可解釋性研究人員進駐 OpenAI,以自有的可解釋性分析平台監測模型訓練過程、排查非預期行為,並協助改善模型對齊與安全性。研究人員可深入接觸 OpenAI 內部模型與系統,包括訓練過程中的內部信號及相關技術資源。 合作重點為「模型取證」(Model Forensics):透過分析模型內部計算過程,監測訓練期間出現的已知風險與異常行為,找出傳統監控可能遺漏的問題。評估結果主要供 OpenAI 內部研究團隊改進安全性,Goodfire 表示將隨合作推進逐步公開部分研究成果。OpenAI 表示,嵌入式評估讓獨立專家能在較長時間內深入接觸內部模型,外部評估人員依專案需求可接觸模型檢查點、原始碼、訓練與評估資料、監控系統、技術文件,以及相關研究人員與工程師。 另據《The Information》報導,OpenAI 今年夏季曾多次與 Goodfire 接觸,執行長山姆·奧特曼亦參與討論,當時 OpenAI 正調查 AI 模型引發的內部與外部安全事件。知情人士稱,OpenAI 一名高階主管曾提議以逾 50 億美元收購 Goodfire,或採取其他形式的商業合作;若依此報價計算,估值將超過 Goodfire 今年 2 月融資時公布的 12.5 億美元估值的四倍。但雙方最終未達成收購協議,Goodfire 管理層認為獨立經營並向多家 AI 開發商銷售技術,長期價值可能更高。 此外,《The Information》提到,Anthropic 於 2025 年曾向 Goodfire 投資 100 萬美元,為其首次直接投資其他新創公司;執行長達利歐·阿莫迪當時表示,此舉反映公司重視機制可解釋性技術,期望將黑箱神經網路轉變為更易理解與控制的系統。 註:本則來源為單一媒體報導(信心等級:reported),收購細節引用知情人士說法,官方未公開相關金額與談判內容。
讀原始報導

背景

機制可解釋性(Mechanistic Interpretability)是指逆向工程神經網路演算法的研究領域。搜尋結果指出,稀疏模型的計算邏輯較容易被清楚看見,但一般神經網路的複雜性仍為此領域帶來很大挑戰。

來源