AIハルシネーションの原因・対策と、
回答を使う前に確かめたいこと。
AIハルシネーションとは、生成AIが事実と異なる内容や、参照資料で裏づけられない内容を、もっともらしく出力する現象です。出典を求める指示や資料の提示は対策になりますが、正確さは保証されません。重要な回答は、主張と根拠を照合してから使います。[1] [2] [8]
調べもののURLは実在するのに、数字が合わない。議事録を要約させたら、決まっていない予定が決定事項になっている。困るのは、誤りが自然な文章に混ざることです。
この記事では、起きる理由を押さえたうえで、「何を確かめるか」「確認できなければどうするか」まで整理します。仕事・学習の照合例、記入できる確認シート、用途別の依頼文を使い、自分の回答に当てはめてみてください。
01 / WHATAIハルシネーションとは
ハルシネーションは英語の「hallucination」に由来し、AIの文脈では「もっともらしい誤り」を指して使われます。「AIが嘘をつく」とも言われますが、この呼び方から、人間のような意図的な嘘だと決めつける必要はありません。まずは出力が何と食い違っているかに注目します。
| 確認する軸 | 問題になる回答 | 照合する相手 |
|---|---|---|
| 事実として正しいか | 存在しない論文や、誤った発売日を挙げる | 論文本文、公式発表、原データ |
| 資料に沿っているか | 議事録にない決定事項を要約へ足す | 渡した原資料と、その前後の文脈 |
この2つは同じではありません。一般には正しい説明でも、「この資料だけを要約する」という依頼に資料外の知識を混ぜれば、資料に忠実な要約ではなくなります。要約研究でも、入力文書への忠実さと事実性を区別して扱っています。[8]
創作・推測・指示違反と区別する
小説の架空の人物や、明示された仮説は、作り話であること自体が問題ではありません。一方で、調査結果として架空の人物を挙げたり、仮説を確定事実として提示したりすると、利用者を誤らせます。
「指定した文字数を超えた」「表ではなく文章で返した」といった形式上の指示違反も、すべてハルシネーションと呼ぶと対策が曖昧になります。形式の不備は形式を直し、事実や根拠の不備は原資料へ戻って確かめると整理しましょう。
02 / WHYなぜハルシネーションは起きるのか
文章が自然であることと、内容が事実に合っていることは別です。LLMは事前学習で大量の文章から次のトークンを予測するパターンを学びますが、個々の記述の真偽が、すべて正誤ラベル付きで与えられるわけではありません。知識の乏しい事実にも、それらしい続きを生成できてしまいます。[1]
学習や評価で信頼性を高めても、誤りは残る
事前学習の後にも、望ましい回答へ近づけるための学習が行われます。それでも、不確かな問いに答えを出す傾向が残る場合があります。OpenAIの2025年の研究解説は、正解を重視する評価では、不明と答えるより推測することが有利になり得る点を論じています。これは原因を考える一つの説明であり、すべての誤答を同じ理由で説明するものではありません。[1]
出典や不確実な点の明示を求めるのは、回答を確認しやすくするためです。プロンプトで学習目標が切り替わったり、正解だけを返すモードになったりするわけではありません。
知識・資料・前提が足りない
新しい料金、非公開の社内ルール、同名の製品などは、必要な情報が渡されていないと取り違えが起こり得ます。対象、日付、地域、プラン、資料を指定し、足りない部分は質問させることが役立ちます。ただし、対象日を書くだけで新しい情報が手に入るわけではありません。
検索機能を使う場合も、情報を取得したか、どのページを読んだか、公開日と適用日が合っているかを確認します。例えばGoogleの検索連携は、外部のWeb情報を取得して回答に結び付ける機能です。日付の指示とは別の工程になります。[9]
長い資料を、十分に使い切れない
コンテキストは、その応答でAIに渡される指示や履歴、資料などです。処理できる量には限界があり、サービスによっては履歴が要約・省略される場合もあります。一方、入力に含まれている情報でも、回答で適切に利用されるとは限りません。
2024年の「Lost in the Middle」は、特定のモデルと課題で、必要情報の位置によって成績が変わることを示しました。「古い情報から必ず順に忘れる」と単純化せず、重要条件を短く再提示し、必要な資料を絞って作業を分けます。この研究結果を、現在の全モデルの性能値として扱うことはできません。[6]
03 / CHECKAIの回答を確認する4段階
回答を使う前に、判断を左右する主張を取り出し、資料の記述・適用条件・使い道を照合します。特に価格、日付、数量、固有名詞、利用条件は、文章の印象とは切り離して確認してください。
- 資料を実際に開く
URLの実在だけでなく、誰が公表した資料かを確認します。社内資料なら版と管理元も確かめます。検索結果の短い抜粋だけで確認を終えないようにします。
- その記述が、回答の主張を支えるかを見る
原文に同じ言葉があっても、結論まで支えているとは限りません。直接引用は原文と照合し、要約や翻訳は意味と省略された条件を確かめます。
- 日付・対象・例外条件を合わせる
公開日と実施日、国内と海外、無料と有料、新規と既存などを分けます。「一部で利用可能」が「全員利用可能」へ変わっていないかを見ます。
- 使い道に合わせて、採用・修正・保留を決める
裏づけがあり必要な確認を終えた部分は採用候補、不一致がある部分は修正、根拠不足や確認待ちの部分は保留にします。
出典の数をそろえることが目的ではありません。公式の条件を確認するなら、該当する公式資料1件が複数の紹介記事より直接的な根拠になることもあります。一方、調査結果を広く一般化する主張には、対象範囲や別の研究も確認する必要があります。引用を付けた回答にも、根拠不足は残り得ます。[3]
| 使い道 | 先に確認すること | 確認できない場合 |
|---|---|---|
| 発想・下書き | 創作や仮説だと分かるか。事実として引用する部分はないか | 仮案として扱い、外へ出す前に再確認 |
| レポート・顧客向け案内・学習資料 | 判断を左右する主張の根拠、数値、例外条件 | 該当箇所の使用を保留し、資料や担当者へ確認 |
| 医療・法律など専門判断に関わる用途 | 適用条件と、資格・権限を持つ専門家などによる確認 | AIの回答だけで実行・確定しない |
横に長い表はスクロールできます。用途の分け方は、本記事の編集上の確認目安です。
1つの主張を点検する
回答を使う前の確認シート
原資料を見ながら記入します。表示される結果はあなたが入力した確認記録の整理で、AIや資料の正しさを自動判定するものではありません。
主張と根拠を記録し、資料を開いて確認してください。
【回答の確認記録】
主張：未入力
資料：未入力
根拠と条件：未入力
確認日・版：未入力
使い道：仕事・学習・公開用の事実確認
確認項目：0 / 4
判定：保留
次の行動：主張と根拠を記録し、原資料を確認する。入力内容はこのページの機能では送信・保存しません。離れる前に記録をコピーしてください。JavaScriptが使えない場合は、項目を手元のメモに転記して確認できます。
04 / COMPARE仕事・学習でのハルシネーションを見抜く
見落としやすいのは、数字そのものの間違いに加えて、「誰に当てはまるか」という条件の脱落です。次の例では、原資料と回答のどこが変わっているかを確認します。
説明用の架空例／実際のサービス仕様・AIの実測出力ではありません
2026年11月1日以降に新規登録する個人会員は、月額1,200円です。既存会員は、2027年1月の更新日までは月額980円を維持します。
11月1日から、すべての個人会員の月額料金が1,200円になります。
照合結果と、使える形への修正を見る
価格と日付だけが合っていても、この回答は採用できません。原資料の「新規登録者」という対象が「すべての会員」に広がり、既存会員の例外も抜けています。
修正例：2026年11月1日以降の新規登録者は月額1,200円です。既存会員は2027年1月の更新日まで月額980円を維持します。
判定：元の回答は要修正。対象者を分けて書き直し、既存会員が新料金へ切り替わる条件など、利用目的に必要な残りの条件も原資料で確認します。
URLの数よりも、日付・対象・例外まで同じ意味でつながっているかを確かめます。
よく使う場面ごとに、確認する相手を変える
| 場面 | 見落としやすい誤り | 確認・修正の方法 |
|---|---|---|
| 会議の要約 | 「来週を候補に検討」が「来週実施に決定」へ変わる | 発言・決定事項を原資料と照合。提案、未決、決定を分ける |
| 論文・学習レポート | 実在する論文名に、別の研究結果を結び付ける | 著者・題名・本文を確認。対象・方法・結果・限界を読む |
| 数字の比較 | 月額と年額、税込と税別、平均と中央値を混ぜる | 単位と集計条件をそろえる。計算は表計算などで再計算する |
| 画像・OCR | 読めない文字や画面外の情報を、読めたように補う | 読み取れた文字と推測を分け、原画像の該当位置で照合する |
横に長い表はスクロールできます。
画像を扱う場合は、「看板の文字だけ」「金額と日付だけ」のように対象を絞れます。ただし、具体的な指示でも誤読は残り得ます。読めない部分は判読不能とし、必要なら鮮明な画像や原本を用意します。数字の誤りも、計算ミス・読み取りミス・根拠のない生成のどれかで対処が変わります。
05 / PROMPTハルシネーション対策の用途別プロンプト
目的は、必要な情報と不足を明らかにし、根拠をたどれる回答にすることです。Anthropicは、不確実性を認める指示、資料からの引用抽出、主張と引用の照合などを勧めています。以下は、その考え方を踏まえた本記事独自の依頼文です。特定のモデルでの防止率を測定したものではありません。[2]
① 検索できるAIで、最新情報を調べる
料金や仕様など、外部の一次情報を取得して確認する用途に使います。検索・閲覧ができなければ、できないと答える条件を含めます。
目的：［調べたいこと］について、確認できる事実を整理してください。
対象：［製品・制度・地域・プラン］
対象日：［YYYY-MM-DD］
検索・資料閲覧が利用できる場合は、公式発表や公式文書などの一次情報を実際に確認してください。利用できない場合、ページを開けない場合、本文を確認できない場合は、その制約を明記してください。
重要な主張ごとに、主張／一次情報のURL／根拠となる短い引用または該当箇所／適用日と条件を対応させてください。
公開日と適用日、新規と既存、地域やプランの違いを混ぜないでください。
直接引用、要約、推測を区別し、資料にない内容を事実として補わないでください。出典の件数をそろえるためにURLや引用を作らないでください。
出力：①確認できた事実 ②未確認・食い違い ③追加で確認すべき資料。
確認できない主張は保留にしてください。② 渡した資料だけで、要約・比較する
議事録や規程、レポートなど、確認対象が決まっているときに使います。資料の一部しか読めない場合も、その範囲を明示させます。
目的：次の資料をもとに［要約・比較したいこと］を整理してください。
資料：［本文を貼る、または閲覧可能な資料を添付する］
回答の根拠は、今回渡した資料に限定してください。
資料を読み取れない場合や一部しか確認できない場合は、対象範囲と不足を先に明記してください。
まず重要な該当箇所を短く引用し、資料名・ページ・見出しなどの位置を示してください。その後、引用に沿って要点を整理してください。
提案・予定・決定・例外を区別し、資料にない理由や結論を追加しないでください。
資料間に矛盾があれば、勝手に一つへ決めず、該当箇所を並べてください。
出力：①要点 ②要点ごとの根拠と位置 ③資料から確認できないこと。
直接引用と要約は分け、判断に必要な情報がなければ保留にしてください。③ 根拠がない段階で、確認事項を洗い出す
検索できない環境や、資料がまだ手元にない場合に使います。回答を正解と認定させず、次に確認する項目を作ります。
目的：次の回答について、外部確認が必要な主張を洗い出してください。
確認対象：［回答を貼る］
使い道：［レポート・仕事の判断など］
現時点では、根拠資料の閲覧が確認できていません。
この回答を読んだだけで、正しい・確認済みと認定しないでください。
数値・日付・固有名詞・適用条件・因果関係を含む重要な主張を分け、確認に必要な資料の種類と確認項目を挙げてください。
本文内で見つかる矛盾と、外部資料がなければ判断できない点を区別してください。
知らないURL、論文名、引用文を補わないでください。
出力：主張／なぜ確認が必要か／探す資料の種類／確認する条件。
結論を急がず、確認できない点は未確認のまま残してください。指示は短ければよいわけでも、長ければよいわけでもありません。必要な資料と条件を残し、依頼の目的と優先順位を明確にします。矛盾する条件があれば、短く書き直す前に、どちらを優先するかを決めましょう。
06 / OPERATEモデル・RAG・再確認をどう使い分けるか
別のAIは、確認候補を探す補助にする
別のモデルへ同じ問いを投げると、回答の食い違いを発見できる場合があります。ただし、回答が一致しても、根拠を確認したことにはなりません。モデル間で同じ誤りが現れることは、2025年の研究でも確認されています。[7]
比較するなら、「どちらが正しい？」だけで終えず、異なる日付・数値・条件を取り出し、それぞれを原資料へ戻して照合します。同じAIへ「本当ですか？」と聞き直す場合も、新しい根拠が得られたのか、言い換えただけなのかを分けて見ます。
検索やRAGは、資料の取得と回答への反映を分けて確認する
RAGは、外部の文書などを検索し、その情報を使って回答を生成する仕組みです。確認では、①資料の内容と版が適切か、②必要な箇所を取得できたか、③回答がその箇所に沿っているか、という順に分けると問題を探しやすくなります。
古い文書を正確に要約しても、最新の条件への回答には使えません。新しい文書を取得できても、回答で例外条件を落とす可能性は残ります。資料に書かれていることと、現在の判断に使えることを別々に確認するのが本記事で勧める運用です。
モデルを変えるときは、自分の用途で比較する
モデルの性能は重要ですが、規模だけで自分の用途の正確さを決めることはできません。必要な資料を同じ条件で渡し、仕事で実際に使う質問群を用意して比較します。評価の基準は、用途に合う形で測定可能にすることが重要です。[10]
チームで残したい最小限の記録
利用日／モデルと版／検索・資料の有無／質問と依頼文／回答／正答・誤答・保留／根拠との対応／修正内容。
「わからない」が増えて誤答が減る場合もあります。正答・誤答・保留を分け、回答単位か主張単位か、何を分母にしたかも記録します。特定の条件の結果を、あらゆる質問への防止率として宣伝しないようにします。[1]
公開・共有前に誰が確認するかも決めておくと、検証を省略しにくくなります。テンプレートは依頼や確認の準備をそろえる道具として使い、最終確認の責任まで自動化したと考えないようにしましょう。
07 / FAQAIハルシネーションのよくある質問
ハルシネーションを完全になくす方法はありますか？
一般的なプロンプトだけで、すべての用途の誤りをなくす保証はできません。資料を与える、未確認を明示させる、重要な主張を照合するという手順を組み合わせます。確認できない部分を使わない判断も対策です。[2]
出典URLが付いていれば信用できますか？
URLは確認の入口です。ページが実在するか、引用が正しいか、その記述が主張を支えるか、適用条件が一致するかを確認します。引用付きの回答でも、根拠が十分とは限りません。[3]
「最新情報で」と書けば、知識は更新されますか？
その指示だけで、学習済みの知識が更新されるわけではありません。検索や最新資料の閲覧ができるかを確認し、参照先の日時・対象を照合します。検索結果があることも、回答全体の正確さの保証にはなりません。[9]
Temperatureを0にすると正確になりますか？
複数のAIが同じ答えなら正しいですか？
一致だけでは判断できません。同じ誤りを共有する場合があります。別AIは、見落としや食い違いを探す補助にし、重要な主張は原資料で確かめます。[7]
「自信度90％」などの数字は使えますか？
その数値がどう計算・評価されたか分からなければ、正答確率として扱わないようにします。回答の自己評価より、確認できた根拠と未確認の箇所を示してもらう方が、次の確認作業を決めやすくなります。
文章を短くするほどハルシネーションは減りますか？
必要な背景や資料まで削ると、判断材料が足りなくなります。不要な繰り返しや矛盾は整理しつつ、対象・条件・根拠は残します。長い仕事は、資料の抽出、要約、照合などに分ける方法があります。
誤った回答を、すでに共有してしまったら？
誤った箇所と影響範囲を確認し、正しい根拠に沿って訂正します。関係者には、何が変わり、どの判断を見直す必要があるかを伝えます。元の回答・根拠・修正内容を記録し、次回の確認項目へ反映してください。
08 / DECIDEまとめ：AIの回答は、根拠と条件を確かめて使う
AIハルシネーションへの対策では、確認しやすい回答を得る指示と、回答後の照合を組み合わせます。文章の自然さ、出典の数、AI同士の一致だけで正しさを決めないことが出発点です。
- 採用候補：主張を支える根拠があり、条件が一致し、用途に必要な確認を終えた。
- 要修正：数字、対象、例外、結論に不一致がある。該当箇所を直して再確認する。
- 保留：資料を読めない、根拠が足りない、必要な確認が終わっていない。
まずは手元の回答から、判断を左右する一文を選んでください。その一文の根拠へ戻り、対象と条件まで確認する。確認できなければ、その部分を保留する。この手順を仕事や学習の中で繰り返していきましょう。
次に読む
参考資料
確認日：2026年10月7日。以下は仕組み・対策・研究上の限界の参照先です。本記事の図解、照合例、確認シート、依頼文は編集上の制作物であり、公式機能や効果測定の結果ではありません。
- OpenAI：Why language models hallucinate（2025年9月5日）。事前学習、推測と回答保留、評価の考え方。
- Anthropic：Reduce hallucinations。Claude向けの対策指針。一般的な防止率を証明する資料ではありません。
- Gaoほか：Enabling Large Language Models to Generate Text with Citations（EMNLP 2023）。回答の正しさと引用品質の評価。現在の全モデルの誤答率には換算しません。
- Anthropic：Glossary — Temperature。生成時のランダムさと設定の説明。
- Google：Gemini API Troubleshooting guide。Gemini 3.xの生成パラメータに関する推奨。モデル別の仕様は変更される場合があります。
- Liuほか：Lost in the Middle: How Language Models Use Long Contexts（TACL 2024）。長文中の情報位置と利用性能を調べた研究。
- Kimほか：Correlated Errors in Large Language Models（2025）。複数モデルの誤りの相関を調べた研究。
- Maynezほか：On Faithfulness and Factuality in Abstractive Summarization（ACL 2020）。要約の資料への忠実さと事実性を扱う研究。
- Google：Grounding with Google Search。検索による情報取得と回答への根拠付け。
- Anthropic：Define success criteria and build evaluations。用途に合う評価基準の設計。
コメント