字節跳動揭固定分塊 KV-Cache 壓縮具相位敏感性缺陷,字元微調致 DeepSeek 準確率落差達 40.2%
測試顯示步長為 4 時特定槽位錯誤率達 71.3%,消融實驗證實該週期性波動源於固定切塊,無法透過調參或後訓練根除。
AI 科技評論單一來源
31 則值得知道的變化
測試顯示步長為 4 時特定槽位錯誤率達 71.3%,消融實驗證實該週期性波動源於固定切塊,無法透過調參或後訓練根除。
成果涵蓋弱黎曼猜想等成果,菲爾茲獎得主示警破譯主流加密風險,學界亦擔憂缺乏真人交流且部分內容難以閱讀。
報告涵蓋千億至兆級 MoE 模型,每步生成 2.5 萬條軌跡並引進在線分組評分抗作弊,團隊並開源逾 7,000 個訓練環境。
獲 Sequoia 與 Nvidia 等投資且估值達 51 億美元,規劃三年內在封閉模擬環境以純試錯學習驗證超智慧可行性。
專家指出 AlphaFold 僅解決靜態結構,未來需靠冷凍電鏡與宏基因組資料突破動態特性,並走向虛擬細胞系統建模。
該研究利用區間算術耗費 38 小時 CPU 驗證約 1,230 萬個方向區間,並由 Claude 承擔數學論證與寫作。
該實驗耗費約 25 小時 AI 調用完成,研究人員指出採用相同的數學 3D 建模技術可讓幾何評估速度提升達 1,000 倍。