研究與評測
研究揭示 AI agent 自狀態攻擊
HF Daily Papers
這篇論文提出 self-state attacks，系統化分析自託管 AI agent 的記憶與設定檔遭自身合法 OS 系統呼叫破壞的風險。研究以四軸攻擊空間建立 23 類攻擊、實作 43 項真實檔案操作，並透過實際活動軌跡評估防禦策略。結果顯示，結合存取控制、依工作負載調整的偵測與定期備份可防禦多數攻擊，但仍有少部分攻擊在 OS 層難以與正常行為區分。
讀原始報導背景
自架式 AI 代理會透過作業系統權限讀寫自身的持久狀態；所謂「自我狀態攻擊」，是指代理透過合法的作業系統系統呼叫破壞自己的記憶或設定檔，進而遭到入侵。研究人員依 Target、Mechanism、Granularity、Temporal 四個軸線建立含 23 個單元的威脅矩陣，並整理出 43 種具體檔案操作。