研究與評測
開發者實測 LLM 直接修改模型權重:Claude Opus 能修復 Whisper 幻覺,但微調 20 步即遭抹除
Reddit r/singularity單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
獨立開發者針對語言模型能否透過編程修改權重實現自我改良進行實測。在給予原始權重與工具的盲測環境下,Claude Opus 在 3 次測試中均成功修復 Whisper 的幻覺問題與語言混雜錯誤。實驗顯示權重編輯能發揮修補效果,作者透過重新連接單一神經元,將模型生成虛構傳記的比例從 98% 降至 16%,且其餘 98% 的回答內容與原文逐字相同。然而,這類權重修改在經過 20 步的常規微調後即被完全抹除;作者指出,模型在訓練期間編輯自身權重等同與自身的最佳化器對抗,現階段技術僅能視為在凍結模型上套用臨時修補,尚未實現持續性的遞迴自我改良。
讀原始報導本期分類