NVIDIA 推出 Sentry：以 BlueField-4 DPU 在硬體層隔離並監控 AI 代理的執行期

NVIDIA Sentry 是一套監控 AI 代理並管控其存取模型、工具與資料的安全框架，為 GTC Berlin 發布的 NVIDIA OpenShell 參考架構一部分。它建構於 NVIDIA DOCA 之上，運行在 NVIDIA BlueField-4 DPU，於主機之外的獨立硬體信任域執行，使代理無法改寫自身限制。根據官方部落格，代理執行於 NVIDIA Vera CPU，而 BlueField-4 位於節點通往模型的唯一路徑上，因此代理的所有網路通訊都經由 Sentry 管控，無須依賴代理自我回報行為。 網路層由 DOCA Flow 與 DOCA Tower 協作控管。DOCA Flow 為每個代理實作第 4 層防火牆，由 BlueField-4 的矽晶片加速，阻擋未授權目的地的連線，並將允許的流量轉交 DOCA Tower 進行第 7 層（應用層）檢查與授權。DOCA Tower 以 Envoy 為基礎作為透明代理，利用晶片內建的 TLS 加速進行 TLS 終止，對設定為需檢查的連線解密後審查。政策評估採用開源政策引擎 Open Policy Agent（OPA）與 Rego 語言，官方表示 OPA 在記憶體內本地執行，依政策複雜度與設定可在不到 1 毫秒內完成評估。 在執行環境感知方面，DOCA Argus 以無代理（agentless）方式在 BlueField-4 上分析主機揮發性記憶體，即時對應容器與 Pod、沙箱與 microVM 之間的關係，並追蹤程序、執行緒、檔案存取、網路連線、載入的函式庫及 CPU、GPU 等資源，為存取決策提供額外情境。 另據 NVIDIA 產品頁，BlueField-4 DPU 可提供最高 800 Gb/s 的連線頻寬，設計用於支援大規模 AI 工廠的網路需求。