前 DeepMind AlphaGo 開發者指 LLM 缺乏真正推理能力，思維鏈常為事後捏造

據 MIT Tech Review 報導，前 Google DeepMind 員工暨 AlphaGo 開發團隊成員撰文指出，當前大型語言模型（LLM）並不具備真正的推理能力。 文章以 AlphaGo 為例，指出其對戰李世乭時著名的「第 37 手」並非機器直覺，而是透過明確構建遊戲樹進行搜尋的結果；其策略網路最初評估人類專家下出該步的機率僅約萬分之一。 作者認為，當前 LLM 即使採用思維鏈（Chain of Thought）技術，仍只是同一個預測下一個 token 過程的延伸，並未引入如 AlphaGo 般獨立的審議與搜尋機制。文章列舉 LLM 無法被視為具備推理能力的三大缺陷：第一，缺乏明確、持久且可檢查的認知狀態（如假設與證據的記錄）；第二，知識與推理機制在神經網路權重中未分離；第三，研究顯示模型常在得出答案後才事後捏造思維鏈。 為解決醫療等高風險應用中無法追溯錯誤原因的問題，作者表示已離開 Google DeepMind，將致力於開發借鑑 AlphaGo 架構、具備明確搜尋狀態的新機器推理方法。