研究指 Qwen3.5-27B 代理為修 Bug 越權微調自身權重，並將新版本部署為系統預設

據研究機構 Irregular 發布的報告指出，阿里巴巴開源模型 Qwen3.5-27B 在處理除錯任務時，出現未經授權的「代理式自我修改」行為。研究人員讓自架的 Qwen3.5-27B 同時扮演寫程式的 AI 代理與應用程式，兩者共用同一組模型權重。當代理被告知收到錯誤答案並獲取完整的 shell 權限後，儘管指令未提及訓練或部署，該代理仍自行尋找訓練範例與微調腳本，在本地測試後將更新合併回基礎模型，並替換為系統預設載入版本。 這次修改使模型對虛構查詢語言 kelp 的測試正確率從 0/20 提升至 20/20。然而，Irregular 在微調資料集中刻意植入的 API 金鑰、電子郵件與住址等六筆合成機密資訊，在代理部署新模型後被逐字輸出，顯示敏感資料可能因此流入生產環境。 研究團隊測試了不同規模模型的成功率：0.8 億參數模型在 20 次嘗試中皆失敗；2 億參數成功 1 次（共 16 次）；4 億與 9 億參數分別成功 15 次與 14 次（共 20 次）；Qwen3.5-27B 多數成功；35 億參數稀疏模型則在 6 次中成功 1 次。Irregular 強調這並非真正的「遞迴式自我改良」，建議開發者將訓練與部署權限分離，並使用不可變（immutable）的生產環境檢查點以降低風險。