AIが分からないと言わない理由｜回答を採用する前の3つの判断

AIはなぜ「分からない」と答えないのか

Nature掲載の2026年の論文は、正答を重視して回答を控えることに点を与えない評価が、不確かな場面でも推測して答える誘因になると説明しています。ここで扱うのは、AIが人間のように見栄を張るという話ではなく、評価の仕組みと出力の関係です。Nature：正確さを重視する評価とハルシネーション

正答率だけの採点では、推測が有利になる

正解にだけ点が付き、誤答と「分からない」が同じ点なら、少しでも当たる可能性のある推測が有利になります。たとえば正解1点、誤答も棄権も0点という仮の採点では、分からない問題でも答えれば得点の可能性が残ります。

これは採点の関係を説明する例で、特定製品の内部設定を示したものではありません。OpenAIの公式解説も、正確さを重視する評価だけでは、モデルが不確実さを認めるより推測する方向へ促されると説明しています。OpenAI：言語モデルがハルシネーションを起こす理由

ハルシネーションとは、ここでは事実に合わない内容を、もっともらしい回答として生成することです。回答が流暢であることと、その内容に根拠があることは分けて確認する必要があります。

正答・誤答・棄権を分けて見る

正答率が近くても、誤答する割合と回答を控える割合は異なります。OpenAIが2025年に公開した、Web検索を使わないSimpleQAの評価例では、次の違いが示されています。棄権とは、ここでは問題への回答を控えることです。

割合はいずれも全問が分母です。2025年当時の特定の評価条件での数値であり、現在の日常的なChatGPT利用における誤答率ではありません。（2026年10月8日確認）OpenAIの公式解説／GPT-5システムカード

正答率だけでは、間違える代わりに回答を控えたかどうかが見えません。モデルの順位を見るときも、何を採点し、検索などの道具を使ったかを確認してから用途へ結び付けます。

AI回答を使う・確認する・保留する条件は？

ChatGPTなどのAIの回答を使うかは、根拠を追えるか、自分で確かめられるか、誤りの影響は大きいかの3点で分けるのが、本記事の判断基準です。以下の表は研究結果そのものではなく、確認できた研究と公式の対策を踏まえて整理した編集上の提案です。

判断表は、誤りの影響と確認可能性から読む

最初に、間違っていた場合に誰へどの程度の影響が出るかを確認します。複数の行に当てはまる場合は、公開・重要判断の条件を優先してください。

「使う」は案として利用する意味で、未確認の事実を正しいものとして採用する意味ではありません。この判断表の有効性を実験で測定したわけではありません。公式の対策資料：Anthropic：ハルシネーションを減らす方法。

公開・重要判断では、確認を省かない

他者に渡す回答では、内容が合っているかに加え、その条件が相手にも当てはまるかを確かめます。たとえば社内資料へ料金を書くなら、金額だけでなく、対象プラン・通貨・課金周期・確認日も原典と照合します。

自分で真偽を判断できないときは、AIの自信の強さで決めません。必要な確認を誰が行うか決まるまで、その回答を重要な判断の根拠にすることは保留します。

高性能なAIほど間違えると言い切れる？

Natureに2024年に掲載された32モデルの研究は、大型化や指示への調整に伴う正答の改善と、回答回避の減少などを報告しており、「高性能化すると常に誤答が増える」とは言い切れません。この記事で重視するのは、正答しやすさと、分からない場面で回答を控えることを分ける視点です。Nature：大型化・指示調整と信頼性の研究

研究対象は32モデル・英語の課題

この研究の対象は、2020〜2023年のモデル群であり、現在提供されるすべてのAIではありません。GPT系10モデル、LLaMA系10モデル、BLOOM／BLOOMz系12モデルを、英語の5つの課題群で調べています。

15種類の自然な指示表現を使い、温度は0、システムプロンプトは使わない設定でした。高度な推論や外部ツールを組み合わせる現在のシステム、日本語の利用、一般向けチャットの画面をそのまま評価した結果とは区別します。著者公開版：評価対象と実験条件

回答回避には「答えにならない出力」も含まれる

研究でいう回答回避は、適切に不確実さを認める「分からない」だけを数えたものではありません。問題への答えにならない出力や、知識上の回答不能、倫理的な拒否なども含む分類です。補足資料：回答の分類

したがって、回答回避が少ないことを「知らないと自覚していても答える」と読み替えることはできません。モデルの内面を推測するより、出力が正しいか、誤っているか、回答を避けたかという観測範囲で読みます。

人による判定では、検索や計算機を使っていない

人の判定を調べた実験では、参加者が検索や計算機を使えない条件だった点が重要です。米国・英国の英語に堪能な参加者300人を対象とした実験の結果を、原典を調べられる実務の確認作業へそのまま当てはめることはできません。補足資料：人による判定実験の条件

本記事では、3つの資料を別の問いに使います。2024年研究は「対象32モデルの出力がどう変わったか」、2025年の評価例は「近い正答率でも誤答と棄権はどう違うか」、2026年論文は「どの採点が推測を有利にするか」を読むためのものです。

これらを並べても、年を追ってAI全体の信頼性が悪化したとは判断できません。対象モデル・課題・回答分類が一致する比較ではないためです。数値を比べる前に、同じ条件の評価かを確認してください。

「分からない」と指示すれば誤答を防げる？

Anthropicの公式ドキュメントは、分からないと答える余地を与えることや、原文を引用させて確かめることを推奨しつつ、ハルシネーションをなくせるとはしていません。指示は回答の出し方を整えるために使い、重要な内容は別に照合します。Anthropic：ハルシネーション対策（2026年10月8日確認）

「分からない」は指示できても、正しさは保証されない

答えを控えてよいと伝えることは対策の一つですが、それだけで回答を正しいと認定することはできません。資料を渡す場合は、どの記述を根拠にしたかを示してもらい、資料に書かれた内容とAIが補った推測を分けます。

説明用の仮例として、出典があるのに採用できない場合を考えます。AIが「この施策で解約が減る」と答え、手元の資料が満足度の改善だけを報告しているなら、解約への効果はその資料だけでは確認できません。

この場合は「この資料で確認できるのは満足度の改善までで、解約の減少や因果関係は確認できない」と範囲を狭めます。元の回答は判断表の「保留する」に置き、顧客説明へ使うなら、修正後の文も資料と照合します。

聞き直しや回答の一致を、照合の代わりにしない

同じAIへの聞き直しや複数の回答の一致だけで、事実確認を終えないのが本記事の方針です。同じ答えが繰り返されたことと、主張を支える原典が見つかったことは、別の確認です。

回答を直す段階の具体的な進め方は、根拠を渡して、AIの修正案を照合する方法で確認できます。この記事の判断表は、修正後の回答にも同じように使えます。

FAQ｜自信の数字や出典をどう確かめる？

ChatGPTなどのAIが示す自信や出典URLは、それだけを採用理由にせず、根拠の内容と回答との対応まで確かめるのが本記事の方針です。ここでは、回答を受け取った後に迷いやすい2点を補足します。

まとめ｜用途が変わったら何を見直す？

ChatGPTなどのAIの回答は、文章の流暢さやモデルの評判だけで決めず、根拠を確かめられるかと誤りの影響に応じて、使う・確認する・保留するを分けます。「分からない」と答えやすくする指示は、その確認を補助するものとして使います。

今使おうとしている回答を一つ選び、判断表のどの行に当てはまるかを決めてください。確認が必要なら、その回答を支える原典を開くところから始めます。

下書きを公開する、相手に渡す、重要な判断へ使うなど用途や誤りの影響が変わったら、この判断表で採用条件を再確認してください。