当下讨论 AI 幻觉，核心早已不是模型偶尔出错。生成式 AI 已经从聊天工具全面渗透进公共服务医疗教育办公和自动化 agent 领域。错误不再只是停留在屏幕上的文字，而是会被组织采信并进入执行链条，最终演变成系统性风险。这是报告给出的第一个核心判断，也是所有后续分析的基础。

NIST 将 AI 幻觉定义为 confabulation，强调其源于统计生成机制本身，而非少数异常案例。这意味着不存在永不产生虚构输出的模型，任何宣称零幻觉的宣传都具有误导性。组织的目标不该是追求完美模型，而是建立可识别可约束可追责可持续优化的长期控制体系。英国政府框架同样明确这一点，将治理重点放在测试监测反馈和人类控制上。

很多人对 AI 幻觉的认知还停留在编造事实的层面。调研将幻觉细分为六类，除了最直观的事实性幻觉，引用性逻辑性语境性行动性和遗漏性幻觉，才是真实业务中更具破坏力的风险谱系。其中引用性幻觉的危害尤为隐蔽，模型伪造错配或误引法规判例论文页码和链接，制造已有证据的错觉。这些伪引用一旦进入 PPT 备忘录或学术论文，就会从模型错误变成组织知识污染，在内部持续扩散。

AI 幻觉的产生并非单一原因，而是五个根因相互强化的结果。模型的本职是生成高概率文本而非连接外部真值，只要现实约束没有及时注入，就会用语言概率填补知识空白。通用模型在处理实时版本敏感组织内部或强专业语境问题时，知识边界的断层会让幻觉风险显著升高。

如果系统没有设计拒答逻辑，模型会默认将必须回答作为目标，即便没有足够信息也会强行补全。同时很多组织将回复快内容全语气专业当作优秀体验，这种偏好进一步推高了用户误信的概率。即便是被广泛认可的 RAG 技术，也存在检索生成错配的问题，文档版本过期来源矛盾时，生成层依然可能拼出似是而非的答案。

实验室里的高基准分数，从来不能代表上线后的真实可靠性。NIST 明确指出，实验室测试与真实世界使用之间存在显著测量缺口。离线基准无法覆盖提示模糊信息更新长链任务和用户多样性带来的风险。测量幻觉至少需要三个维度，发生概率严重程度与可发现性，以及不同场景下的下游影响。同样的错误率，出现在娱乐问答和医疗决策中，带来的后果有着天壤之别。

美国 GAO 的报告数据直观展现了生成式 AI 的渗透速度。2024 年 11 个联邦机构报告的生成式 AI 用例达到 282 个，较 2023 年的 32 个增长约 9 倍。其中 61% 集中在内部使命支持，15% 用于政府服务，9% 涉及健康医疗。这些高频低摩擦被默认为只是辅助的环节，恰恰是幻觉风险最容易被忽视的地方。当采用速度远超治理能力，试验风险就会快速转化为运营风险。

医疗领域的测试数据，清晰呈现了抑制幻觉过程中的核心权衡。英国 MHRA 对临床问答系统的测试显示，333 次测试中基线 GPT 模型出现 6 次重大幻觉。搭载 RAG 与强护栏的 SmartGuideline 未出现重大幻觉，却产生了 35 次遗漏，占测试总数的 10.5%。这说明压低幻觉率并不自动等于提升系统有效性，组织必须在遗漏风险和幻觉风险之间找到平衡。高风险场景可以容忍更多拒答，低风险创意场景则可给予更高的生成自由度。FDA 在 2026 年初公布的数据显示，已授权超过 1200 个 AI 医疗设备，医疗行业的 AI 应用已进入规模化监管阶段，幻觉治理必须具备制度级成熟度。

高可信品牌会放大幻觉风险，这是调研反复强调的重要结论。相关实验显示，近 70% 的用户认为回答有用，略低于 65% 的用户表示满意，但官方依然观察到多起幻觉案例。用户对政府医院高校金融机构等权威品牌的天然信任，会让他们低估系统的失真风险，形成过度信任。这意味着权威界面不是风险缓冲器，反而可能成为风险放大器。

中国的生成式 AI 治理也已进入新阶段。国家网信办公告显示，2025 年全年新增 446 款生成式 AI 服务完成备案。截至 2025 年 12 月 31 日，累计 748 款服务备案，435 款应用或功能完成登记。规模化的应用落地，要求组织将抑幻觉工程从项目经验上升为统一的组织制度。建立统一的标识留痕审批核验与责任体系，才能避免幻觉在规模化应用中被不断复制。

概率真相陷阱指出，用户容易把语言流畅结构完整语气笃定的输出，误判为事实准确的答案。引用幻影链则揭示了伪造引用如何形成虚假的证据链条，在组织内部持续传播。低置信高伤害区提醒，模型自身没有稳定依据的高后果任务，是风险最高的地带。责任折返门则说明，流于形式的人工复核只是责任表演，既无法控制风险，也无法明确责任归属。

真正有效的幻觉治理，是技术工程与组织制度的结合。报告提出的抑幻觉六层栈，从任务分级知识锚定生成约束，到验证校正上线监控责任治理，形成了完整的控制链条。跳过底层的任务分级和知识锚定，只做表层的提示优化，根本无法稳定降低真实风险。人工复核的核心不是形式上有人看过，而是复核人拥有真正的否决权，明确的职责标准和完整的日志留痕。

03

参考研报&来源

2026AI幻觉深度研究报告-清新研究