← AI 動態
The Decoder
AI 模型給出正確答案，但指向錯誤的來源
研究發現，AI 模型如 GPT 和 Gemini 在文檔分析中經常提供正確答案，但所引用文本並不支持答案的正確性
AI 模型
歸因幻覺
文檔分析
最近的研究顯示，AI 模型在文檔分析中經常提供正確答案，但所引用文本並不支持答案的正確性。這種現象被稱為「歸因幻覺」。即使答案是正確的，所引用的證據也往往是錯誤的。這對於需要嚴格的證據支持的行業，例如金融，來說是一個重大風險。研究人員發現，即使是領先的商業模型，如 Gemini-3.1-Pro-Preview 和 GPT-5.4，也存在這個問題，當要求模型提供準確的來源引用時，其性能會大幅下降。這個問題對於開源模型來說更為嚴重，因此在使用 AI 模型時需要謹慎評估其來源引用能力