跳到主要內容
2026-10-26 日報
研究與評測

MIT 研究指 AI 修改圖片能植入假記憶:受試者更易記錯原圖且高度自信

TechNews 科技新報單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據外媒報導,麻省理工學院(MIT)科學家 Pattie Maes 向《華盛頓郵報》說明團隊實驗:受試者觀看一系列照片後,在休息後分別被展示原圖或經 AI 修改過的照片;隨後的記憶測驗顯示,看過 AI 修改圖片的受試者不僅更容易記錯原圖,甚至對自己的錯誤回憶展現出高度自信。 除了該實驗外,多項研究亦顯示 AI 錯誤資訊具備植入假記憶的能力。例如 2025 年的一項研究發現,深偽(Deepfake)與 AI 生成文字能有效植入虛構的政治醜聞記憶,進而降低受試者的投票意願。此外,研究引述數據指出,一般人辨識 AI 生成內容的準確率基本等同於「擲硬幣」,目前尚無萬無一失的介入培訓手段。 這項發現對政府機關、金融、軍方與醫療等機構推崇的「人在迴路中」(Human-in-the-Loop)審核防線提出警訊。研究顯示,使用者並不擅長辨識 AI 幻覺,且傾向信任 AI 系統,即便 AI 輸出與專家原先掌握的資訊相互矛盾,專家的判斷仍可能被扭曲。報導援引《彭博》指出,美軍 2026 年初空襲伊朗小學造成逾 150 人死亡(含至少 123 名兒童),美國國防部調查發現部分原因即為過度依賴 Palantir 開發的 AI 系統,該系統因資料過時而將小學列為首日打擊目標;與此同時,產業正加速發展代理式 AI(Agentic AI),競相將人類移出決策迴路。
讀原始報導

背景

「人在迴路中」(Human-in-the-Loop)是指系統架構中需要人類互動與介入的模型,常見於機器學習及自主武器等領域。代理式 AI(Agentic AI)則是指能獨立於人類程式設計師做出決策、追求目標並採取行動的程式,不同於僅用於回答問題等特定窄域任務的工具型 AI。

來源

本期分類