AI 幻觉

它是什么

AI 幻觉（AI Hallucination）指模型产出与事实不符、逻辑断裂或脱离给定上下文的内容，却常常语气笃定、形式完整。它不是人格意义上的「说谎」，而是概率生成机制下的系统性现象。

在需要严谨证据的教学、科研与管理场景中，幻觉是风险；在需要发散联想的创作场景中，同一机制有时被当作启发来源——价值取决于任务。

名字从哪来

Hallucination 借自认知科学用语，用来比喻「无中生有却显得真实」。中文「幻觉」已成共识译法。相关说法还有「一本正经地胡说八道」「虚构引用」等。

它怎么工作

生成式 模型按提示预测高概率续写，并不默认查询权威数据库。训练数据缺口、过期知识、提示含混、以及「必须给出答案」的压力，都会抬高幻觉率。代码场景中，幻觉可表现为能运行但算错、捏造不存在的库函数等。

缓解思路包括：检索增强、要求引用与不确定标注、对抗性自检提示、以及——最重要的——人工核对硬事实。

在教育与工作中

可用幻觉设计「找错」学习活动，但目标必须写清，避免学生把错误当权威。备课中对年代、数据、引文、法规默认核查。教师若因一次幻觉全面否定工具，或因一次正确全面托付工具，都错过了场景化判断。

和相近概念的差别

• 偏见：系统性不公平倾向；幻觉更强调具体内容虚假或失配。
• 认知外包：人把思考交给工具；幻觉是工具侧错误形态，二者常叠加放大伤害。
• 随机噪声：幻觉往往局部连贯，因而更难一眼识破。

常见误会

误会 1：幻觉只是暂时缺陷，下个版本会消失。 概率生成的基本张力仍在；工程可降低频率，难保证为零。

误会 2：加一句「请保证正确」就够了。 提示有帮助，不能替代核验。

误会 3：只有文科会幻。 STEM 同样会出现错误公式、错误单位与虚假文献。