研究指 AI 幻覺源於系統「非答不可」設計，單靠提示詞防範效果有限

最新研究指出，生成式 AI 頻繁產生「幻覺」的關鍵原因，在於系統被設計為傾向在沒有正確答案時仍必須給出回應。研究顯示，當 AI 面臨必須回答的壓力時，即使在數學或資訊上缺乏可行答案，模型仍會進行任意推測，進而生成看似合理卻錯誤的內容。 現行開發與評估機制往往鼓勵大型語言模型「猜答案」而非坦承不確定，且實測表明，單靠提示詞要求 AI「不要產生幻覺」僅能微幅降低出錯機率，無法根本解決問題。為提升模型可靠性，研究建議在訓練與開發階段降低強制回答的壓力，讓模型學會在資訊不足時主動拒答，或要求系統同時標示答案的信心與不確定程度。