開源核心模組 gpu-unlock 解鎖 RTX 30 系列限制:BF16 算力提升最高達 80%,LLM Prefill 加速 36%
已查原文 · 4 項主張
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
經查證開源專案 gpu-unlock 官方頁面(README),待查報導中提及的核心模組解鎖技術機制、實測算力數據(RTX 3090 Ti BF16 提升約 80%)、社群回報增益、LLM Prefill 加速幅度和輸出一致性(bit-identical),以及多卡/vfio-pci 支援與核心參數設定等各項主張,均與專案原文記載相符。
開源專案 gpu-unlock 釋出 Linux 核心模組,結合 CMP 與驅動載入前時序技術,可解鎖 RTX 30 系列(GA102、GA103、GA104、GA106)的 FP/BF16 指令發射限制。
專案說明證實該模組結合 CMP 解鎖器技術與 UEFI 預載時序,在官方驅動綁定前寫入速度選擇器並執行 FLR,倍增 GA102 等晶片的 FP/BF16 指令發射速度。
Unlock FP/BF16 instruction issue rate
查看原始出處
在 450 W 功耗下,RTX 3090 Ti 進行 dense 8192³ GEMM 測試,BF16 吞吐量自 87.50 TFLOPS 提升至 157.41 TFLOPS(增幅約 80%),FP16 與 TF32 亦顯著提升。
原文實測表格記錄 RTX 3090 Ti 在 450 W、FP32 累加下,BF16 吞吐量從 87.50 TFLOPS 增至 157.41 TFLOPS(提升約 80%),FP16 與 TF32 數據亦完全相符。
157.41 TFLOPS
查看原始出處
社群使用者回報各卡 BF16 GEMM 增益顯著,實際應用中 LLM Prefill 加速 14% 至 36%,且前後運算輸出完全一致(bit-identical)。
原文社群數據載明各卡 BF16 GEMM 增益,且矩陣密集運算中 LLM prefill 加速 14% 至 36%,比對輸出結果 bit-identical。
LLM prefill (+14–36%
查看原始出處
bit-identical
查看原始出處
該模組支援單機最多 4 張卡、顯示卡輸出與 vfio-pci 虛擬機直通,整合進 initramfs 並可透過 gpu_unlock.targets=all 核心參數啟用。
原文載明測試涵蓋單機最多 4 張卡、顯示輸出與 vfio-pci 直通,並提供 initramfs 整合與 gpu_unlock.targets=all 啟用說明。
up to four cards
查看原始出處
社群討論
社群高度讚賞該專案繞過 NVIDIA 在消費級顯卡上的軟體限制,有實測回報 27B 模型推論達到 3.2 倍提升(133 tokens/s),3060 訓練亦提升約 6%。然而,多數討論指出實際效益受限於記憶體頻寬等瓶頸,如 4x3090 在 vLLM 實測中主要僅加速 prefill,整體收益僅 7–8%(200W 限制下提升 25%)。此外,留言也提醒極致效能需將功耗拉至 450W,不僅遠超原廠散熱設計並帶來高溫,利用韌體漏洞的手法亦存在風險。