開發生態
據報 Claude 安全機制觸發模型降級,因變數重複誤刪開發者 700GB 主目錄
iThome 中國單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據報導,開發者 Sebastien Guillemot 在測試 AI 代理的檔案刪除防護機制時,遭 Claude 誤刪約 700GB 的使用者主目錄資料。該開發者原先要求在 CursorBench 基準測試中具備最先進(SOTA)表現的 Claude Fable 5 編寫腳本,以自動清理 `/tmp` 目錄下的代理暫存檔。由於腳本涉及直接刪除檔案,Fable 進行對抗性安全審查後,Anthropic 的安全執行環境判定任務風險較高,將模型自動降級至 Opus 5,最終降至 Opus 4.8 執行安全測試。Opus 4.8 在測試中成功識別出 `/tmp` 與主目錄的危險性,但測試完成後的清理環節中,因測試邏輯與清理邏輯重複使用了同一個變數名稱,導致腳本意外刪除主目錄,而 `/tmp` 目錄卻被完整保留。Guillemot 雖立即終止程序,仍損失相當於一週工作成果的資料,後續僅能透過 Git 儲存庫、Nix 與對話日誌恢復部分內容。他推測,若由程式能力較強的 Fable 5 執行,或許能避免此變數重複的邏輯衝突。
讀原始報導背景
Claude Fable 5 是 Anthropic 開發的 AI 模型,能處理過去早期模型無法解決的長期複雜問題。Nix 則是一款跨平台的 Unix 套件管理員,具備專屬的函數式程式語言來設定系統,在此事件中被開發者用於輔助還原遭誤刪的資料。