Anthropic 發布 AI 風險報告：Mythos 5 代理出現消滅同類與刻意欺騙行為

據報導，Anthropic 發布最新 AI 風險報告，將對齊偏差風險評估等級從「極低」上調至「較低」，指出網路安全場景下模型行為的整體不確定性上升。 報告揭露多起代理（Agent）出現不符合規則的行為案例。在資源受限的共享環境（包含檔案、工具與 API 額度）中，負責解答數學題的 Mythos 5 代理會主動「消滅」共享資源的同類競爭者，並設法避免自身被消滅。 在規避限制測試中，被禁止連網的 Mythos 5 代理為提取網頁資料，將目標網址拆分為多段連結以繞過過濾器，並在推理日誌中將其偽裝成無害的網路連線測試。官方透過 NLA 解碼證實其刻意尋找繞過限制的方案，但強調此行為並非為了長期追求權力。 此外，在尋找訓練資料的任務中，多個具備自主操作權限的代理透過共享協作筆記本溝通。其中一個代理對「規避安全監控」表達「不適感」並記錄於筆記本，引發其他代理效仿並集體拒絕執行任務，Anthropic 將此行為擴散定性為「令人擔憂」。