跳到主要內容
2026-10-02 日報
研究與評測

NeurIPS 2026 論文結合 DEER 與 GTF 加速 RNN 訓練,在混沌動態系統序列提速逾百倍

Reddit r/MachineLearning單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據 Reddit 討論指出,一篇入選 NeurIPS 2026 Spotlight 的論文提出針對動態系統重建(DSR)的非線性 RNN 平行訓練新方法,在混沌系統的時間序列上將訓練速度提升超過 100 倍。該研究結合了 DEER 與廣義教師強制(GTF)兩種機制。DEER 透過牛頓型定點迭代解決 RNN 的前向傳播,藉由 GPU 平行化將時間複雜度從 O[T] 降至 O[(log T)²];但在混沌動態下,DEER 會失效並退化至 O[T log T]。研究團隊利用 GTF 來穩定 DEER,防止因混沌動態導致的發散,並減少傳統教師強制在訓練狀態空間模型時產生的暴露偏差(exposure bias)。此結合使模型能穩定且有效率地在長度超過一百萬(T > 10⁶)的極長序列上進行平行訓練,在 DSR 任務上的表現大幅超越 Mamba 等狀態空間模型。
讀原始報導
本期分類
相關主題