AI 幻觉是什么？为什么大模型会一本正经地答错

什么是 AI 幻觉

你让 ChatGPT 帮你找一篇论文，它给你列出了标题、作者、发表期刊——看起来像模像样，但你去搜，发现这篇论文根本不存在。

这就是 AI 幻觉（Hallucination）。

AI 幻觉是指大模型生成的内容看起来合理、流畅、自信，但实际上是错误的或编造的。模型不会说"我不知道"，它会一本正经地给你一个编造的答案。

这个术语来自计算机视觉领域——早期的图像识别模型会"看到"不存在的物体。大语言模型的幻觉是类似的：它"说出"不存在的事实。

为什么会产生幻觉

要理解幻觉，首先要理解大模型的工作原理。

大模型不是在"理解"语言，而是在做概率预测。给定前面的文字，预测下一个最可能的词是什么。它没有真正的知识库，没有事实核查机制，不知道什么是"真的"。

这导致几个根本问题：

1. 训练数据的局限

模型的知识来自训练数据。如果训练数据中有错误、过时信息、或者某些领域数据不足，模型就会在这些地方产生幻觉。

2. 概率生成的特性

模型选择下一个词是基于概率，不是基于事实。有时候概率最高的词组合起来恰好是事实，有时候不是。特别是当模型对某个领域"不确定"的时候，它倾向于生成看起来合理但实际错误的内容。

3. 不会说"不知道"

模型被训练成"尽量回答问题"，而不是"承认不知道"。当你问一个超出它知识范围的问题，它不会说"我不确定"，而是会编一个看起来合理的答案。

4. 上下文误导

如果用户的提问中包含了错误的前提，模型可能会顺着用户的错误继续编下去，而不是纠正用户。

幻觉的常见表现

如何减少幻觉的影响

1. RAG（检索增强生成）

让模型在回答前先检索相关资料，基于检索结果回答，而不是纯粹靠"记忆"。这是目前最有效的减少幻觉的方法。

想了解 RAG 的原理，可以看 RAG 是什么。

2. 事实核查

对 AI 输出的关键信息做验证。特别是：

• 具体数字和日期
• 人名和机构名
• 引用的文献和链接
• 法律和医学相关陈述

3. 多模型交叉验证

用不同的模型回答同一个问题，对比答案的一致性。如果多个模型给出不同的答案，说明这个问题可能存在幻觉风险。

4. 推理模型

推理模型（如 o3、DeepSeek-R1）有思考过程，会在推理中自我验证，幻觉率比普通模型低。但不是零。

5. 提示词工程

在提示词中明确要求模型：

• 不确定时说"我不确定"
• 区分事实和推测
• 给出信息来源

6. 温度参数

降低模型的"温度"（temperature）参数可以减少随机性，让输出更确定，但也会减少创造性。

幻觉在不同场景的影响

幻觉是 bug 还是 feature

有趣的是，在某些场景下，幻觉反而是优势：

• 创意写作：模型的"编造"能力可以产生新颖的想法
• 头脑风暴：不拘泥于已知事实，提供新视角
• 故事创作：虚构是核心需求

问题出在把幻觉当成事实使用。所以关键是：理解你的场景，决定你需要多高的事实准确性。

下一步

• 想减少幻觉？看 RAG 是什么
• 想用推理模型降低幻觉？看 AI 推理模型是什么
• 想了解不同模型的幻觉表现？看 AI 大模型有哪些

---

本文最后更新于 2026-07-27。AI 幻觉是活跃的研究领域，新的缓解方法可能随时出现。