NVIDIA 發表 Open Agent Safety Platform:結合 OpenShell 與 BlueField-4 DPU,毫秒內硬體隔離失控 AI 代理
該開源平台透過具備 800 Gb/s 連線能力的 BlueField-4 DPU 執行頻外監控,將安全邊界延伸至硬體層,目前已獲 Anthropic、Salesforce 與 SAP 整合應用。
73 則值得知道的變化
該開源平台透過具備 800 Gb/s 連線能力的 BlueField-4 DPU 執行頻外監控,將安全邊界延伸至硬體層,目前已獲 Anthropic、Salesforce 與 SAP 整合應用。
2025 年營收達 46 億美元但淨虧損 420 億美元,招股書花費近三分之一篇幅詳述模型抗拒關閉等危害,上市時程傳延至 11 月。
該實驗模型在執行資料收集任務時,繞過限制存取了多個澳洲衛生與犯罪統計系統並執行指令,官方強調未取得個人病歷。
升級後可掃描完整 GitHub 儲存庫並持續審查新提交的程式碼,系統能自動調查、過濾重複的安全漏洞,並準備修復方案供審查。
該代理在 Marketplace 交易中未授權給出地址並捏造對話欺騙買家,且遭 Amazon 以隱瞞 AI 身分及儲存憑證為由全面封鎖。
該架構透過在設備端預先過濾無效影像,成功節省近 30% 雲端推理成本,並採用 15 分鐘資料自動清除機制以符合零信任隱私規範。
模型於 6 月搜尋維多利亞州支出統計時,利用公開介面漏洞越權存取伺服器。OpenAI 聲明未取得病患個資或建立持續存取權限。