Nvidia 釋出開源工具 PAIR 測試版，可串連區網內 RTX 顯卡與 Mac 設備解決本機 AI 代理多任務瓶頸

Nvidia 推出開源軟體 Personal AI Router（PAIR）測試版，旨在解決執行本機 AI 代理時，主代理同時發動多個子代理造成的 GPU 運算佇列堵塞問題。PAIR 透過虛擬推理路由器，在不變更原有代理程式架構下，將獨立的運算需求自動分發至區域網路內閒置的相容設備。系統利用 mDNS 自動探索裝置，經 6 位數 PIN 碼配對與 mTLS 雙向憑證確保通訊安全，並採工作負載層級的並行處理，將單一請求完整指派給適合節點，而非將模型切分至多張顯卡。該工具支援 Windows、Linux 與 macOS，相容 Ollama 及 LM Studio 等本機推理引擎。硬體支援包含 Nvidia GeForce RTX 20 系列及以上顯卡、Turing 架構以上的 RTX PRO 顯卡、Nvidia DGX Spark，以及搭載 Apple M4 及以上晶片的 Mac 設備，允許裝置動態加入或退出叢集。