研究與評測
開發者撰文指「下一個 token 預測」非 LLM 完整思維模型，RLVR 後訓練已使其轉向探索與追求回報
Hacker News單一來源
尚未逐項核實
目前依單一來源整理，這是來源數量描述，不是對消息真假的判定。
據 Hacker News 討論的一篇技術文章指出，「下一個 token 預測」（Next-token predictor）已不足以作為現代 LLM 的完整思維模型。文章說明，雖然基礎模型在預訓練階段確實透過模仿訓練資料中的實際 token 來學習，但現代 LLM 經過後訓練（Post-training）後，行為模式已發生改變。透過可驗證回報強化學習（RLVR），模型不再僅限於預測既有文本，而是透過生成新序列進行探索，並根據獲得的回報（Reward）來提高特定 token 的生成機率。此外，人類回饋強化學習（RLHF）也促使模型從單純模仿預訓練資料，轉向模擬有用的 AI 助理。作者以西洋棋引擎為例，指出這就像是從「預測大師的下一步」轉變為「選擇勝率最高的棋步」，雖然底層機制仍是一次輸出一個 token，但其編碼的內容已包含透過探索發現的知識。
讀原始報導社群討論
社群普遍認為將 LLM 稱為「next-token predictor」雖在技術上正確，但過於化約且常被用來貶低其數十億參數的規模與湧現能力。部分意見指出，經過 RLHF 等後訓練，模型更像是在高維空間中搜尋而非單純預測，且反向傳播實際上是為所有後續 token 最佳化；但也有人認為該框架能完美解釋 LLM 早期鎖定錯誤詞彙的缺陷。此外，網友質疑文章的棋盤比喻，指出 LLM 缺乏 AlphaGo 每回合數千次迭代的高效搜尋能力，即使具備 1M tokens 的上下文長度也無法進行有意義的 Monte-Carlo 搜尋。
本期分類