研究與評測
OpenBMB ForgeKernel 在 B200 上以黑盒方式自主優化 GPU kernel,超越 NVIDIA FlashMLA 基準 9.8%
Reddit r/LocalLLaMA單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據
據 Reddit r/LocalLLaMA 貼文報導(單一來源,尚未獨立證實),OpenBMB 完成一次約 22 小時的自主 GPU kernel 優化運行 ForgeKernel Live,目標硬體為 NVIDIA B200。該 agent 只能執行並評測 NVIDIA 官方 FlashMLA 實作,無法存取其原始碼、文件或效能分析資料,屬於黑盒優化。運行期間共產出 32 個 kernel 版本,歷經 42 輪迭代;第 13 版在不到 10 小時時首次超越基準。最終結果為 1.098 倍效能,延遲由 518 µs 降至 472 µs,貼文稱提升 9.8%。
貼文另稱,OpenBMB 將開源最佳化後的 kernel 與 27 個運算子,涵蓋 attention、Gated DeltaNet、Kimi Delta Attention、GEMM 與卷積,並釋出 ForgeKernel 測試框架供他人重現實驗。相關連結為 openbmb.cn/forgekernel 與 GitHub 上的 OpenBMB/ForgeKernel。
讀原始報導背景
FlashMLA 是 DeepSeek 推出的最佳化注意力運算核心函式庫,用於在 NVIDIA GPU 與華為昇騰 NPU 上推論 DeepSeek-V4.1 模型,涵蓋 prefill 與搭配 FP8/FP4 KV cache 的解碼運算。本則新聞中,ForgeKernel 即是以 NVIDIA B200 上的 FlashMLA 官方實作作為比較基準。