開發生態
開發者逆向工程 RK3588 NPU 推出開源編譯器，免官方 SDK 讓 GPT-2 達 36 tok/s
Reddit r/LocalLLaMA單一來源
尚未逐項核實
目前依單一來源整理，這是來源數量描述，不是對消息真假的判定。
據 Reddit 社群開發者發布的消息，有開發者成功逆向工程 RK3588 NPU，並推出名為 OpenNPU v1.0 的開源編譯器與執行環境。該專案解析了硬體的暫存器格式，完全繞過官方提供的 SDK。實測顯示，該環境能以每秒 36 個 token 的速度運行 GPT-2 模型。此外，專案也支援直接從 PyTorch、ONNX 與 JAX 運行 SigLIP 視覺編碼器。
讀原始報導背景
RK3588 是由 Rockchip 推出的晶片，其內建的神經處理單元（NPU）可用於執行大型語言模型等 AI 任務。新聞中提及的 SigLIP 則是 Google 開發的多模態模型，為 CLIP 的改良版，主要透過 Sigmoid 損失函數來處理圖像與文字配對。