前瞻與傳聞
OpenAI 據報年底前推出一至兩個模型,下一代旗艦仍待對齊與監管評估
The Decoder綜合 2 家報導多家報導
核實資料不足
多個報導來源提及此事;未必是彼此獨立的證據。
本次未取得足夠原文證據

The Decoder 引述 The Information 與知情員工報導,OpenAI 可能在年底前推出一至兩個新模型,但目前正在開發的重大升級旗艦模型是否包含其中仍不確定。這款旗艦模型需要先完成對齊工作,並補強測試基礎設施,之後還須通過安全評估與美國政府的預先評估程序,才可能向外部合作夥伴及公眾發布。
報導稱,下一代旗艦模型與 Astra 都採用迴圈式 Transformer;OpenAI 在生產環境中將這項技術稱為「Recurrent Depth」。模型會讓同一個 token 多次通過相同的 Transformer 層,再產生下一個詞,據稱可提升數學與程式表現,並讓較小的模型以較低成本達到更高效能。
這種迴圈也會把部分「思考」移至人類無法直接檢視的內部數值表示,削弱研究人員透過可讀思考鏈監控模型推理與異常行為的能力。報導稱,OpenAI 曾限制 Astra 的迴圈次數,以維持思考鏈的可讀性;OpenAI 首席科學家 Jakub Pachocki 也曾警告,思考鏈監控正變得脆弱,且情況持續惡化。
在 Hugging Face 事件後,知情人士稱 OpenAI 已將約一成總運算資源轉向對齊與安全工作;The Information 報導這相當於數百兆瓦的資料中心容量,但此前安全工作的資源比例與目前分配仍不明。另依材料所述,川普政府規範先進 AI 系統評估的行政命令要求,OpenAI 已同意在新模型交付外部合作夥伴前最多 30 天、公開發布前更久,讓美國政府取得模型進行評估。
Microsoft 此前意外公開一篇關於 GPT-6.1 Sol 的技術文章,已刪除段落稱該模型採用「looping inference」,會以多次 pass 處理問題;快取內容顯示,GPT-6.1 Sol 使用與 GPT-6 Sol 相同的基礎模型權重,但推論次數為兩次而非三次。知情人士確認這段描述符合 OpenAI 私下告知 Microsoft 的內容,Microsoft 發現不應公開後撤下該段落。
讀原始報導背景
搜尋結果指出,OpenAI 曾將 Astra 描述為目前最重視 alignment 的模型,但也警告其具備 cybersecurity 能力。匿名內部消息稱,GPT-6 Astra 採用 recurrent depth(looped transformers),可提升效率,卻可能讓部分或全部 chain of thought 難以觀察。
來源
- Reddit r/singularityreddit.com
- en.wikipedia.org