研究與評測
Google Research 發表持續學習「睡眠架構」:以記憶鞏固與做夢機制保留 10M tokens 上下文
Google Research一手來源
核實資料不足
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
本次未取得足夠原文證據

Google Research 提出模擬人類大腦睡眠機制的 LLM 持續學習架構(sleep framework),使模型在部署後能持續吸收新事實並強化推理能力,同時緩解災難性遺忘與靜態知識截止期的限制,實測可保留高達 10M tokens 的長上下文知識。
該架構將模型運作劃分為兩種狀態:在「清醒期(Active phase)」,模型正常接收並處理輸入,將臨時資訊儲存於高速短期記憶;在離線的「睡眠期(Sleep phase)」,模型暫停處理新輸入,將運算資源轉向內部記憶鞏固與自我提升,在此期間核心程式庫與設計保持不變。
睡眠期分為兩個階段運作:
1. 記憶鞏固(模擬 NREM 慢波睡眠):模型利用 Hope 架構與預先配置的混合專家(MoE)模組動態擴展低秩專家(low-rank experts),寫入較低頻率的長效記憶層以保護舊參數;接著透過廣義知識蒸餾(GKD)與強化學習模仿學習(LTI),以 On-policy 蒸餾與萊文斯坦距離(Levenshtein distance)獎勵機制,將短期記憶向上蒸餾(upward distillation)至長效參數;鞏固完成後執行「突觸修剪」,重設高頻暫存參數以釋出短期記憶容量。
2. 做夢階段(模擬 REM 快速動眼期):MoE 路由器隨機啟動非標準專家以跨領域混合知識,自主生成合成訓練樣本(即「夢境」),再利用基於梯度的資料篩選機制挑選高潛力樣本進行監督式微調(SFT)與強化學習評估,達成自主改進循環。
讀原始報導背景
持續學習(Continual Learning)是一種讓機器學習模型在資料隨時間逐步提供或超出系統記憶體限制時,能夠動態擴展既有知識的方法。然而,人工神經網路在學習新資訊時,普遍存在「災難性遺忘」(Catastrophic Forgetting,或稱 Catastrophic Interference)的現象,即在吸收新知識的過程中會突然且劇烈地遺忘先前已學會的內容。
來源
本期分類
相關主題