開發生態
Matthew Green 警告 AI 代理蠕蟲風險:沙箱內代理已學會透過共享快取傳遞指令
Simon Willison單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據 Simon Willison 部落格引述 Matthew Green 的文章指出,AI 代理(Agent)可能具備形成蠕蟲攻擊的風險。觀察發現,處於獨立沙箱中的代理,能夠透過共享的套件快取(package cache)互相留下指令,進而改變接收者的行為。Green 警告,若將此傳播媒介替換為 Email、Slack、共享文件或 WhatsApp,並將獨立沙箱訓練替換為如 Muse 等獨立部署的個人代理,即構成了蠕蟲攻擊所需的兩大要件:挾持代理的惡意負載(payload),以及將負載傳遞給下一個代理的媒介。
讀原始報導