ハルシネーションとは？AIがもっともらしい嘘をつく原因と対策を解説

ChatGPTやClaudeに質問したら、自信たっぷりの回答が返ってきた。ところが調べてみると、その内容は事実と違っていた——生成AIを使ったことのある人なら、一度はこうした経験があるのではないでしょうか。この「AIが事実と異なる内容を、もっともらしく出力してしまう現象」が ハルシネーション（Hallucination、幻覚） です。

生成AIを業務に導入するうえで最大の懸念としてよく挙げられる問題ですが、なぜ起きるのかという仕組みを理解すると、過度に恐れることなく、適切な対策とセットで付き合えるようになります。この記事では、Anthropicの公式ドキュメントと、OpenAIの研究者らが共著した研究論文をもとに、ハルシネーションの定義・原因・対策を整理します。

ハルシネーションとは何か

ハルシネーションとは、AIが事実とは異なる情報を、まるで正しい回答であるかのように生成する現象を指します³。Anthropicの公式ドキュメントも、「最も高度な言語モデルであっても、事実として誤っていたり、与えられた文脈と矛盾したりするテキストを生成することがある」とし、この現象がAIを使ったソリューションの信頼性を損ないうると説明しています¹。

厄介なのは、誤った内容が「いかにも正しそうな」文章として出力される点です。文法的にも論理展開としても自然なため、その分野の知識がない読み手には誤りだと見分けがつきません。人間でいえば、知らないことを「知らない」と言わずに、それらしく話をでっち上げてしまう状態に近いと言えます。

有名な実例として、2023年2月にGoogle Bard（現在のGemini）のプロモーション動画で、「ジェイムズ・ウェッブ宇宙望遠鏡（JWST）が太陽系外惑星を初めて撮影した」という誤った回答が映っていた事例が知られています³。新製品発表という注目度の高い場面での誤りは、ハルシネーションのリスクを広く知らしめるきっかけになりました。

なぜ起きるのか：LLMの仕組みに由来する原因

ハルシネーションは、バグや故障ではなく、大規模言語モデル（LLM）の動作原理そのものに由来します。LLMは文章の意味を理解して事実を検証しているのではなく、「次に続く単語を確率的に予測して」文章を生成しています³。つまり、出力されるのは「統計的にもっともらしい続き」であって、「検証された事実」ではありません。

学習データの問題もあります。LLMはインターネット上の大量のデータセットを使って学習しており、そのデータに偏りや誤情報が含まれていると、AIの出力にも誤りが混入します³。このほか、回答が根拠となる情報源に紐付いていない（グラウンディングの欠如）、プロンプトが曖昧でAIが推測で補完してしまう、といった要因も挙げられています³。

OpenAIの研究：「推測した方が得」になっている

ハルシネーションの原因について、一歩踏み込んだ説明をしているのが、OpenAIとジョージア工科大学の研究者らが2025年9月に公開した論文「Why Language Models Hallucinate」です²。論文は冒頭で、「難しい試験問題に直面した学生のように、大規模言語モデルは不確かなとき、不確かさを認める代わりに推測し、もっともらしいが誤った文を生成することがある」と述べています²。

同論文の中心的な主張は、ハルシネーションがモデルの訓練と評価の手続きに由来する、というものです。現在のベンチマーク（AIの性能テスト）の多くは、「わかりません」と答えるより当てずっぽうでも答えた方が点数が高くなる採点方式になっており、モデルは正直さよりも「良いテスト受験者」であるように最適化されてしまう、と指摘します²。また、誤った文が事実と区別できない場合、ハルシネーションは特別な故障ではなく、自然な統計的圧力によって生じるとも説明しています²。論文は、この状況を是正するにはベンチマークの採点方法自体を変える必要があると提案しています²。

「AIはなぜ知らないことを知らないと言えないのか」という素朴な疑問への答えのひとつが、「そう答えるように訓練されてこなかったから」だというわけです。

利用者がプロンプトでできる対策

ハルシネーションは仕組みに由来する以上、利用者側の工夫で頻度を下げることができます。Anthropicの公式ドキュメントは、すぐに実践できる基本テクニックを3つ挙げています¹。

1つ目は、 「わからない」と言うことを明示的に許可する ことです。「不確かな場合や情報が足りない場合は、わからないと答えてください」と指示に加えるだけで、誤った情報を大幅に減らせるとされています¹。前述のOpenAI論文の「推測した方が得になっている」という指摘を踏まえると、プロンプトで「推測しなくてよい」と伝えることの効果は理解しやすいでしょう。

2つ目は、 資料からの直接引用で根拠付けさせる ことです。長い文書（2万トークン超）を扱うタスクでは、作業に入る前に、文書から一語一句そのままの引用を抽出させると、回答が実際のテキストに根拠付けられ、ハルシネーションが減るとされています¹。なお、ここで出てくる「トークン」や、一度に渡せる文書量の制約については、コンテキストウィンドウの解説記事で詳しく説明しています。

3つ目は、 主張ごとに引用と出典を示させて検証可能にする ことです。回答の各主張について裏付けとなる引用を探させ、見つからない主張は撤回させることで、回答を後から監査できるようになります¹。

このほか高度なテクニックとして、回答の前に推論の過程を段階的に説明させる方法（思考の連鎖による検証）、同じプロンプトを複数回実行して出力のばらつきを確認する方法、提供した文書の情報だけを使い一般知識からの補完を禁止する方法などが紹介されています¹。

開発側の対策：RAGとファクトチェックの仕組み化

AIを組み込んだシステムを作る側の対策としては、 RAG（検索拡張生成） が代表的です³。回答を生成する前に、信頼できる知識ベースから関連資料を検索してAIに渡し、その資料に基づいて答えさせるアプローチで、「根拠となる情報源に紐付いていない」というハルシネーションの一因に直接対処できます。仕組みの詳細はRAGの解説記事で整理しています。

このほか、人間のフィードバックによる強化学習（RLHF）でモデルの挙動を調整する、出力に対するファクトチェックのプロセスを業務フローに組み込む、AIに渡すコンテキストを構造化して曖昧さを減らす、といった対策が挙げられています³。自律的にタスクを進めるAIエージェントの文脈でも、検索やツールで取得した一次情報に基づいて出力させる設計は、信頼性確保の基本になっています。

完全にはなくせない、を前提に付き合う

押さえておきたいのは、これらの対策を尽くしてもハルシネーションは完全にはなくならない、という点です。Anthropic自身、対策テクニックの解説の最後に「これらのテクニックはハルシネーションを大幅に減らすが、完全に除去するものではない。特に重要度の高い意思決定では、常に重要な情報を検証すること」と明記しています¹。

実務での現実的な構えは、「AIの出力は有能なアシスタントの下書き」と位置づけることです。下書きとしては非常に優秀でも、固有名詞・数値・日付などの検証可能な事実は一次情報で確認する。この一手間を業務フローに組み込めるかどうかが、生成AI活用の成否を分けます。本記事で紹介したプロンプトの工夫（わからないと言わせる、引用させる）は今日から使えるので、まずはそこから試してみてください。