为什么大语言模型会产生幻觉？为什么管理幻觉对于安全采用人工智能至关重要？
在有关生成式人工智能（GenAI）的讨论中，幻觉是一个核心概念。从正式定义来看，幻觉是指生成事实错误、不连贯或脱离上下文的信息，却以看似合理且自信的方式呈现。对于使用大语言模型（Large Language Models，LLMs）的人和系统而言，幻觉是日常中常见的现象。
为什么大语言模型会产生幻觉？
根本原因在于，大语言模型是统计算法，而不是真理引擎。其目标是根据大规模统计模式，预测一个序列中最有可能出现的下一个词。它们并非为对照外部、动态的事实依据来核实事实而设计。讽刺的是，幻觉之所以看起来合理，恰恰说明模型成功实现了生成流畅文本的目标。
“GenAI中的幻觉并非偶发故障，实际上，它们是大语言模型不可避免的结果。挑战已不再是消除幻觉，而是管理风险，并让每一个回答都以可验证的事实为依据。”
Ricardo Pacheco Almeida，PwC Portugal人工智能技术负责人
幻觉是这项技术的主要局限之一，也是学术界的热门研究对象。当前的共识认为，理想的、没有幻觉的大语言模型是无法实现的。这是多种因素共同作用的结果，例如理论上的限制、有限模型本身无法通过学习弥补的知识空白；模型架构是为连贯性而非验证而设计的；以及评估系统奖励“猜测”，却不惩罚不确定性。
生成式人工智能中的幻觉类型（内在幻觉与外在幻觉）
幻觉主要分为两类：内在幻觉和外在幻觉。理解这两类幻觉，对于正确评估人工智能模型生成回答的可靠性至关重要。
内在幻觉
当回答直接违背上下文中提供的信息时，就会出现内在幻觉。例如，如果一份文件注明预算为5M€，而模型声称“预算为8M€”，这就是内在幻觉。
外在幻觉
当模型引入无法根据上下文验证的新信息时，就会出现外在幻觉。沿用同一个例子，模型可能会说“预算为5M€，由管理层于7月10日批准”。这个日期是一个看似合理却毫无依据的编造。
幻觉对企业和关键行业的影响
信任的削弱是企业采用GenAI的主要障碍之一。当人们对GenAI模型潜力的期待遭遇幻觉这一挑战时，信任的削弱尤为明显。如果人工智能生成的每一份摘要、分析或草稿都必须由人类专家仔细核查，那么使用自动化、动态系统的主要优势就会被抵消。在医疗、司法或金融等高风险行业，这种影响会进一步放大。例如，法律分析报告中的幻觉可能制造出一个并不存在的法律先例。
如何缓解GenAI中的幻觉？（RAG与Grounding）
随着人们认识到幻觉不可避免但可以缓解，讨论的重点已从消除转向管理，而实际面临的挑战则变成了降低产生错误的概率。
缓解GenAI幻觉最常用的技术是检索增强生成（Retrieval-Augmented Generation，RAG）。这种技术向模型提供真实、相关的文档作为上下文，并给出明确指令，要求模型仅根据这些信息作答。
这也是上下文锚定（Grounding）的主要例子。通过在推理时提供外部、可验证的上下文，系统将回答锚定在一组有限的事实之上，从而管理错误泛化带来的不可避免的错误。
减少大语言模型幻觉的高级解决方案
减少GenAI和大语言模型幻觉的最先进解决方案，采取的是一种以不信任为出发点的方法：它们假定生成模型会出错，而且永远都有出错的可能。
其策略是构建具有外部验证机制的模块化系统，以确保更高的准确性和安全性。这些系统包括：
- 生成器（LLM）+验证器：由另一个模型或确定性规则验证每一个回答。
- 过程奖励模型（Process Reward Models，PRMs）：逐步、逐句进行验证。
- 多智能体辩论：多个智能体持相互矛盾的立场，持续讨论，直到得出最可靠的答案，模拟一个民主过程。
这些方法对于医疗、司法和金融等关键应用至关重要。在这些领域，人工智能的可靠性是降低风险的决定性因素。
GenAI中的幻觉是安全、高效采用这项技术所面临的最大挑战之一。尽管由于大语言模型的性质，幻觉不可避免，但仍然存在有效的风险降低策略。企业必须理解这些局限，并采用缓解机制。随着人工智能的发展，幻觉管理将成为把潜力转化为战略价值的决定性因素。