無問芯穹聯合清華與上交開源具身端側推理引擎 APXInf，PI 0.5 延遲降至 26ms

據報導，無問芯穹聯合清華大學與上海交通大學，正式開源具身智能端側推理引擎 APXInf。該引擎首發支援 PI 0.5 與 WALL-OSS 兩款具身模型，硬體相容 RTX 4090、Jetson Orin 及 Jetson Thor 平台。 官方數據顯示，在 Jetson Thor 上，APXInf 將 PI 0.5 FP8 的端到端推理延遲從 278ms 降至 26ms 以內，推理頻率達 38.46Hz，以滿足機器人多場景即時控制對低延遲的要求。系統架構底層採用 Rust 語言構建極簡運行時（runtime）以確保記憶體安全與穩定性，上層則提供 Python 介面降低開發門檻。 APXInf 定位為 2025 年 9 月推出的強化學習訓練框架 RLinf 的端側推理延伸項目。未來路線圖顯示，團隊計畫進一步支援 Qwen、Groot 等模型，並適配 nvfp4、AMD 及國產晶片算力後端。