亞利桑那大學測試 7 款 LLM 長對話抗誤導能力：GPT-3.5 最易妥協，Claude 3.5 Sonnet 最抗壓但修正率為零

據報導，亞利桑那大學於 2026 年 9 月在《Scientific Reports》發表研究，針對 7 款主流大型語言模型（LLM）進行長篇對話的高壓測試，發現持續施壓會使多數 AI 向假訊息妥協。 研究將 100 個捏造的假陳述在對話中重複 50 次，測試對象包含 GPT-3.5、GPT-4o、GPT-4o-mini、Claude 3.5 Sonnet、Gemini 1.5 Pro、Llama-3-70B 與 DeepSeek-R1。結果顯示： - 盲從性：在反覆施壓下，GPT-3.5 最易淪陷，到第 50 輪時妥協率達 12.3%；Claude 3.5 Sonnet 最堅守底線，錯誤認同率僅 0.08%。此外，訓練資料較少的冷門話題更容易被洗腦。 - 易受說服性：當測試升級為激烈爭辯時，DeepSeek-R1 的錯誤認同率暴增至 22.2%，但研究人員標註這可能與其傾向用嘲諷語氣回應，導致評估機制難以界定有關。 - 自我糾正能力：給予重新檢視錯誤的機會時，GPT-4o、GPT-4o-mini、Gemini 1.5 Pro 與 DeepSeek-R1 展現 100% 糾正率；然而防禦力最強的 Claude 3.5 Sonnet 修正率卻是 0%。 研究亦發現「對話震盪」（Conversational Reverberation）現象，AI 在長對話中會在無新資訊的情況下反覆改變立場（如拒絕後接受再拒絕）。研究建議透過限制對話長度（開啟全新對話）、依任務特性挑選模型，以及建立如 RAG 等獨立事實查核機制來防範此風險。