據報 Claude 安全機制觸發模型降級,因變數重複誤刪開發者 700GB 主目錄
開發者要求 Claude Fable 寫腳本清理暫存,系統因風險判定降級至 Opus 4.8,導致測試程式變數衝突,反將一週工作成果抹除。
iThome 中國單一來源
19 則值得知道的變化
開發者要求 Claude Fable 寫腳本清理暫存,系統因風險判定降級至 Opus 4.8,導致測試程式變數衝突,反將一週工作成果抹除。
結合方向性消融與參數最佳化,無需微調即可自動移除模型安全對齊,實測 Gemma-3-12B 拒絕率降至 3% 且 KL 散度優於手動版本。
攻擊者透過內部憑證取得使用者專案環境變數,官方確認 OpenAI、Anthropic 等多項服務金鑰已遭盜用,並暫停 AI Hub 服務進行調查。