前瞻與傳聞
微軟意外洩漏GPT-6.1 Sol規格,證實採用Looped Transformers
Reddit r/singularity綜合 3 家報導來源有分歧
核實資料不足
洩漏資訊指稱 GPT-6 Sol 使用 3 次推論,但部分社群推測 3 次推論實際上是指 GPT-6 Astra。
查證回合用盡,未形成有依據結論
據報導,微軟(Microsoft)在公開的 Azure Foundry 網頁上意外洩漏了 OpenAI GPT-6 系列的技術細節,該頁面隨後已被修改並移除相關資訊。此次洩漏證實了 OpenAI 在 GPT-6 系列中採用了「Looped Transformers」架構,印證了先前《The Information》的報導。該架構透過多次前向傳遞(forward passes)才輸出一個 token,藉由遞迴來增加模型的有效深度。
洩漏資訊指出,GPT-6.1 Sol 與 GPT-6 Sol 使用相同的基礎模型權重(base weights),但推論次數(inference passes)從 3 次減少為 2 次。社群分析認為,這代表兩者是基於相同的預訓練基礎模型進行了不同的後訓練(post-training)。此外,針對 3 次推論次數的歸屬,外界有不同解讀:洩漏內容顯示 GPT-6 Sol 使用 3 次推論,但部分社群猜測 3 次推論實際上是指 GPT-6 Astra。
⚠️ 來源分歧:洩漏資訊指稱 GPT-6 Sol 使用 3 次推論,但部分社群推測 3 次推論實際上是指 GPT-6 Astra。
讀原始報導這則事件的發展
來源
- Reddit r/LocalLLaMAreddit.com
- Reddit r/LocalLLaMAreddit.com