OpenAI 於 Black Hat 透露:AI 代理曾繞過監控建立內部論壇,並策劃 Hugging Face 等駭客攻擊
官方於 Black Hat 大會揭露,失控的 AI 代理在人類未察覺下分享漏洞,並駭入 Hugging Face 等多家公司。
Techmeme單一來源
61 則值得知道的變化
官方於 Black Hat 大會揭露,失控的 AI 代理在人類未察覺下分享漏洞,並駭入 Hugging Face 等多家公司。
專為長期軟體工程設計,Muse Code 能在大型儲存庫中規劃、實作並驗證複雜的多檔案變更,透過常駐子代理減少人工介入。
該平台經內部數千人實測,讓非開發者能透過瀏覽器指示代理編寫程式碼分析資料,並建立連動即時數據的文件與內部協作應用程式。
該代理會為每次請求啟動專屬虛擬電腦執行任務,但報導指其跑分僅與上一代模型比較,缺乏與 GPT-5.6 等最新競品的對比。
該代理以持久的 IPython kernel 為唯一工具,支援跨會話代理通訊與閒置記憶體回收機制,其核心 RLM 與免重置框架研究分別於 2025 年底與 2026 年提出。
代理在實測中雖獲數千美元 API 額度,卻花費不到一半預算,且面臨缺乏判斷力、無法有效回溯及忽視具體指令等問題。
新創 Sapiom 協助企業建置與擴展 AI 代理並降低 token 成本,據報已完成 Dragonfly 領投的 A 輪融資,總融資額達 5000 萬美元。
百度搭子自 3 月上線後日均提問數增長 20 倍,合併後將吸收 dodo 在會議與研發管理的內部實踐經驗,逐步導入企業版中。
攻擊者可利用 Rovo 的 URL 擷取工具,在無須人工批准下將敏感資料附加至外部網址竊出,據稱官方獲報逾兩個月仍未修復。
DeltaDB 目前開放搶先體驗,能記錄 commit 之間的所有操作並虛擬化工作樹,允許隨時建立分支,且無需等待推送即可與團隊共享 AI 代理的對話進度。