なぜLLMでハルシネーションが生じるのか、そしてAIを安全に導入するためになぜその管理が不可欠なのか？
生成AI（GenAI）をめぐる議論で中心となる用語の一つが、ハルシネーションという概念です。厳密には、事実として誤っている情報、一貫性のない情報、あるいは文脈から外れた情報が生成され、もっともらしく、自信があるように提示されることをハルシネーションと呼びます。大規模言語モデル（Large Language Models、LLMs）を扱う人々やシステムにとって、日常的に見られる現象です。
なぜLLMでハルシネーションが起こるのか？
根本的な原因は、LLMが統計的なアルゴリズムであり、真実を導き出すエンジンではないことにあります。その目的は、大規模な統計的パターンに基づき、ある並びの中で次に来る可能性が最も高い単語を予測することです。外部の動的な真実の基盤に照らして事実を検証するようには設計されていません。皮肉にも、ハルシネーションがもっともらしく見えるのは、モデルが流暢な文章を生成するという目的を達成しているからです。
「GenAIのハルシネーションは、時折起こる失敗ではありません。実際には、LLMから必然的に生じるものです。課題はもはやそれをなくすことではなく、リスクを管理し、一つひとつの回答を検証可能な事実に基づかせることです。」
Ricardo Pacheco Almeida、PwC PortugalのAI Tech Lead
ハルシネーションは、この技術の主な限界の一つとして、学術界で盛んに研究されています。現在の共通認識では、ハルシネーションのない理想的なLLMは実現不可能とされています。これにはさまざまな要因があります。例えば、理論上の限界や、有限のモデルでは学習そのものによって埋めることのできない知識の欠落、モデルのアーキテクチャが検証ではなく一貫性を重視して設計されていること、そして評価システムが不確実性にペナルティを与えずに「推測」に報酬を与えることなどです。
生成AIにおけるハルシネーションの種類（内在的・外在的）
ハルシネーションには、内在的なものと外在的なものという二つの主な種類があります。AIモデルが生成する回答の信頼性を正しく評価するには、この二つの種類を理解することが不可欠です。
内在的ハルシネーション
内在的ハルシネーションは、回答が文脈の中で与えられた情報と直接矛盾するときに発生します。例えば、ある文書に予算が5M€と記載されているのに、モデルが「予算は8M€だった」と述べる場合がこれに当たります。
外在的ハルシネーション
外在的ハルシネーションは、モデルが文脈からは検証できない新しい情報を持ち込むときに発生します。同じ例でいえば、モデルが「予算は5M€で、7月10日に経営陣が承認した」と述べるような場合です。この日付はもっともらしいものの、根拠のない作り話です。
企業や重要分野にハルシネーションが与える影響
信頼の低下は、企業によるGenAI導入の大きな障壁の一つです。GenAIモデルの可能性に対する期待がハルシネーションという課題にぶつかると、その低下は特に顕著になります。AIが生成する要約、分析、草稿のすべてを人間の専門家が入念に検証しなければならないのであれば、自動的かつ動的に動くシステムを使う主な利点は失われます。この影響は、医療、司法、金融といったリスクの高い分野でさらに大きくなります。例えば、法的分析の報告書におけるハルシネーションは、存在しない判例を生み出す可能性があります。
GenAIのハルシネーションをどう軽減するか？（RAGとGrounding）
ハルシネーションは避けられないものの軽減はできるという認識から、議論は排除から管理へと移り、実践上の課題は誤りが生成される確率を抑えることになりました。
GenAIのハルシネーションを軽減するために最も広く用いられている手法は、検索拡張生成（Retrieval-Augmented Generation、RAG）です。これは、事実に基づく関連文書を文脈としてモデルに与え、その情報だけに基づいて回答するよう具体的に指示するものです。
これは、文脈による根拠付け（Grounding）の代表的な例でもあります。推論の時点で外部の検証可能な文脈を与えることで、システムは有限の事実の集合に回答を根拠付け、誤った一般化による避けられない誤りを管理します。
LLMのハルシネーションを減らす高度な解決策
GenAIやLLMのハルシネーションを減らす最先端の解決策は、モデルを信頼しないことを出発点とするアプローチを採ります。つまり、生成モデルは誤り得るものであり、今後も常にそうであると仮定するのです。
その戦略は、外部検証を備えたモジュール式のシステムを構築し、精度と安全性を高めることです。これには、次のようなシステムが含まれます。
- 生成器（LLM）＋検証器：別のモデル、または決定論的なルールが、一つひとつの回答を検証します。
- プロセス報酬モデル（Process Reward Models、PRMs）：ステップごと、文ごとに検証します。
- マルチエージェント討論：複数のエージェントが互いに矛盾する立場を取り、最も信頼できる回答に達するまで議論することで、民主的なプロセスを模擬します。
こうしたアプローチは、医療、司法、金融などの重要な用途で不可欠です。これらの分野では、AIの信頼性がリスクを減らすうえで決定的な要因となります。
GenAIのハルシネーションは、この技術を安全かつ効率的に導入するうえで最大の課題の一つです。LLMの性質上、ハルシネーションは避けられませんが、リスクを減らす有効な戦略は存在します。企業はこうした限界を理解し、軽減の仕組みを採用することが重要です。AIが進化するにつれ、ハルシネーションの管理は、その可能性を戦略的価値へと変えるための決定的な要因となるでしょう。