OpenAI 發布內部前沿模型數學新成果,於 GitHub 分享 Lean 證明與運算力估算
成果涵蓋 372 個相關家族,平均每項耗費約三小時的 ChatGPT Pro 思考算力,部分已具備 Lean 證明,官方正準備發布該驅動模型。
53 則值得知道的變化
成果涵蓋 372 個相關家族,平均每項耗費約三小時的 ChatGPT Pro 思考算力,部分已具備 Lean 證明,官方正準備發布該驅動模型。
專案提供從 SystemVerilog 到主機軟體的完整堆疊,在 Xilinx Kintex-7 平台上運行 LFM2.5-230M 解碼達 85.8 tok/s,並支援 MoE 權重串流。
該模型將預測狀態拆分為多個部分以捕捉複雜模式,在流體力學等十項測試擊敗基準,甚至從模擬軌道中推導出克卜勒第三定律。
陶哲軒警告 AI 快速產出 Lean 驗證證明卻缺乏人類理解,恐引發數據污染;OpenAI 雖為此成立顧問小組,但明文排除對其內部數學進展提供建議。
據報新論文指 ChatGPT 成功找出與高效電腦搜尋及取樣相關的未解數學證明,人類研究員主要僅負責理解並解釋 AI 產出。
此免訓練框架利用權重共享特性,將不同深度的草稿生成與驗證合併批次處理,在 Huginn-3.5B 模型實測達 4.81 倍加速。
該架構採用共享基底向量字典,允許上下文獨立調節各記憶組件,克服傳統查表法處理多義詞的瓶頸,並確認最佳插入點為中間層。
該文比較 RNN 隱藏狀態、Transformer 的 KV cache 與 Mamba 選擇性保留機制,並以 BDH 探討工作記憶的突觸層面解釋。
專案透過 NVMe SSD 讀取 4-bit 查找表,在 RX 9070 僅耗 0.4GB VRAM 即可達 140 tok/s,但長提示詞讀取較慢。
兩款 AI 模型合作解決了數學領域中關於 11 個正方形裝箱的最佳化問題,並將證明過程在定理證明軟體 Lean 中進行了形式化驗證。