安全與監管
OpenAI 啟動第一階段嵌入式評估:開放 Apollo 與 METR 等 4 家機構進駐,存取原始碼與未發布模型
iThome綜合 4 家報導多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。

OpenAI 宣布啟動第一階段「嵌入式評估」(Embedded Assessments),開放 Apollo Research、METR、Transluce 及 Goodfire 共 4 家獨立機構進駐辦公室,進行超越傳統 API 黑箱測試的深度安全審查。外部專家獲准使用 OpenAI 提供的專屬設備,直接存取尚未發布的 AI 模型、原始程式碼、訓練與評估資料、內部監控系統及技術文件,並可與研發人員直接交流。
4 家機構各有具體評估任務:Apollo Research 調查模型是否暗中違背開發者意圖(包含欺騙人類、隱瞞意圖或規避安全限制),並驗證監控系統的捕捉能力;METR 負責檢驗 OpenAI 迄今規模最大的強化學習訓練作業,發掘既有測試遺漏的行為偏差;Goodfire 透過其平臺分析神經網路內部活動,協助訓練除錯與對齊;Transluce 則審核模型訓練後的安全評估品質,並預計於 2027 年初展開為期 8 週的後續評估,檢視評估結果對模型發布決策的實際影響。
依據合作條款,評估機構擁有獨立發布報告的權利,但 OpenAI 保留刪除機密資訊以及要求延後揭露安全風險發現的權利。OpenAI 表示,此計畫為履行《白宮超級智慧協議》(White House Accord on Super Intelligence)承諾的一環,目標是建立常態化第三方評估與產業共通安全標準。
讀原始報導