RAGとロングコンテキスト比較｜資料別の選び方と回答の確認

RAGと全文入力は、資料と目的でどう選ぶ？

RAGと全文入力を選ぶ際は、質問の答えが一部の記述で足りるか、章や資料をまたぐ照合が必要かを先に分けます。判断表では、資料を渡す候補と、回答を採用できない条件を一緒に確認できます。

必要箇所を探す方法と広く渡す方法を区別する

RAGとは、外部の資料から質問に関係する情報を検索し、その情報をモデルの回答生成に使う方法です。ロングコンテキストとは、モデルが一度に扱える入力の範囲が大きいことを指します。前者は情報の渡し方、後者はモデルの能力に関する言葉で、同じ種類の製品名ではありません。Liらの比較研究

この記事の「全文入力」は、選んだ対象資料の全文を渡す方法です。手元にある全資料を無制限に入れる意味ではありません。検索で対象資料を絞ってから広く渡すなど、両方を組み合わせる考え方もあります。

仕組みから確認したい場合は、RAGが外部情報を参照する仕組みも参照できます。ここでは方式の名前より、答えに必要な範囲を渡せるかを判断します。

資料・作業・保留条件を判断表で照合する

たとえば、社内規程で「申請期限はいつか」を調べるなら該当条項と前後を検索する方法が候補です。一方、「本則と別紙の例外を合わせると、この申請に何が必要か」なら両方を参照できるように渡します。別紙の適用条件を確かめられなければ、どちらの方法でも回答を保留します。

2024年の比較研究は、どこまで参考になる？

Liらの2024年研究は、英語の質問付き課題を中心にRAGと長文入力を比較したもので、日本語資料や現在の全モデルに共通する優劣を示すものではありません。研究を選択の材料にするには、まず比較条件を自分の作業と照らします。

比較したモデル・課題・検索条件を押さえる

比較対象は、研究当時のGemini 1.5 Pro、GPT-4o、GPT-3.5 Turboです。Google DeepMindとミシガン大学に所属する著者らが、LongBenchの7課題と∞Benchの2課題、計9課題を使っています。ここで挙げるモデル名は現在の推奨モデル一覧ではありません。論文の書誌情報・実験条件を記載した論文PDF

RAGの基本条件は、資料を300語のチャンクに分け、上位5件を取り出す設定です。チャンクとは検索などのために分割した文章の単位で、300トークンという意味ではありません。検索には主にContrieverを使い、Dragonによる追加比較も行っています。論文の検索設定

平均結果と個別課題の例外を分ける

この実験の平均評価では、3モデルとも長文入力側がRAGを上回りました。ただし個別の課題には例外があり、F1・正解率・ROUGEなど異なる指標を含む結果です。「どんな資料でも回答の正確さが一律に高い」とは読み替えられません。論文の比較結果

数値の扱い：GPT-4oのSelf-Route・全文入力の平均評価値について、原論文のTable 1と4.3節の記載に食い違いがあります。本記事では、この記載の差から精密な改善率を算出しません。論文のTable 1・4.3節を確認する

さらに、検索する文章の分け方や、取り出した文章に必要な文脈が残るかも条件になります。Anthropicは、断片だけでは意味が伝わりにくい問題に対し、文脈の付与や検索後の並べ替えを説明しています。筆者は、1つの検索設定での結果を「RAG全体の限界」と扱わず、使う仕組みの条件まで確認することを勧めます。AnthropicのContextual Retrieval解説

日本語資料と現在のモデルへ一般化しない

この研究だけでは、日本語PDFの読み取りや自由形式の全文要約の優劣を確定できません。質問に沿う要約課題は含まれますが、表・脚注・画像を含む日本語の業務資料を、そのまま評価した研究ではないためです。論文のデータセットと制約

2025年のLaRAも、モデル・文脈の長さ・課題などの条件によって比較結果が変わることを扱っています。後続研究を踏まえても、方式名だけで選ぶより、自分の資料で根拠の範囲を確認する方針が妥当だと筆者は考えます。ICML 2025掲載のLaRA

Self-Routeは、いつ全文入力へ切り替える？

Self-Routeは、検索結果だけで答えられるかをモデルに判断させ、回答不能と判断した質問を全文入力へ回す研究手法であり、自己判定の正しさを保証するものではありません。検索か全文かを最初から固定せず、入力範囲を切り替える例として読むと役立ちます。

検索結果で回答可能かを先に判断する

全文へ回す条件は、モデルが検索結果だけでは回答できないと判断することです。まず質問と検索結果を渡し、回答可能と判断すればその情報で答え、回答不能と判断した場合は全文を使います。「回答を生成して誤りを発見したら再実行する」という手順とは異なります。Self-Routeの手順

自己判定を正答の保証にしない

「答えられる」という自己判定と、必要な根拠がそろっていることは分けて確認します。たとえば一般規則だけを見て回答可能と判断しても、別の章にある例外を参照しなければ、質問の条件に合う回答にならないおそれがあります。これは本記事の判断例であり、研究の実測結果を再現した事例ではありません。

筆者はSelf-Routeを「確認を省く仕組み」ではなく、検索と全文入力を併用する発想として位置づけます。一般向けチャットに同名の設定や手順が備わっているとは、本研究からは判断できません。

費用はRAGのほうが必ず安い？

Gemini APIの費用は、入力の長さだけでなくキャッシュの対応や課金条件でも変わるため、RAGと全文入力の費用差を研究当時の入力トークン割合だけでは判断できません。料金を比べる際は、使うサービスと計算に含める範囲をそろえます。

入力トークンと運用全体の費用を分ける

研究の入力トークンの比較は、運用全体の請求額の比較ではありません。トークンとは、モデルが文章を処理する際の単位です。原論文の費用評価は主に入力トークンの割合に基づくため、その割合を月額料金の削減率へ置き換えないでください。論文の費用評価

筆者の比較方針は、同じ資料・同じ質問の回数を前提に、モデル利用、検索基盤、資料更新や確認の手間を分けて見ることです。一般向けチャットのサブスクリプションと、開発者向けAPIの従量課金も同じ表へ混ぜず、実際に自分が契約する方の条件で判断します。

反復利用ではキャッシュ条件も見る

同じ資料へ繰り返し質問するなら、キャッシュの対応と保存期間も費用比較に含めます。キャッシュとは、再利用する入力を保持して扱う仕組みです。Gemini APIの明示的キャッシュ（ここではGenerateContent APIの資料を参照）では、キャッシュ済み入力の利用に加え、保持時間に応じた保存費用などの条件があります（2026年9月30日確認）。Gemini APIの明示的キャッシュ資料・Gemini API料金資料

そのため、毎回全文を新規入力する想定と、同じ内容を再利用する想定では、比較の前提が変わります。実装方式・対象モデル・保持時間をそろえて料金資料を確認し、本記事の方法選択を特定の料金保証として使わないでください。

回答の見落としは、どう確認する？

RAGと全文入力の回答は、元資料の抽出状態、回答を支える箇所、質問に必要な参照範囲を順に確認してから採用を判断します。以下は、方式を変える前に行う筆者の切り分け手順です。

資料の抽出状態を確認する

1．元資料の必要箇所が、読み取れる状態になっているかを確認します。PDFなら、元ファイルの本文・表・脚注・画像中の文字を見ます。抽出結果を確認できる場合は、表の列や注記まで照合してください。確認できない場合は、抽出の成功を前提にせず、次の手順で元資料と回答の根拠を照合します。

根拠箇所と必要な参照範囲を照合する

2．回答を支える箇所が、質問に必要な範囲をカバーしているか確認します。規則を尋ねたなら、本文だけでなく適用対象・例外・改訂日も見ます。複数資料の比較なら、各資料の同じ項目を照合し、見つかった一部だけで全体を代表させないことが要点です。

長い入力が使えても、複数の情報を探し合わせる課題まで同じように扱えるとは限りません。Googleの長文コンテキスト資料も、1つの情報を探す場合と複数情報の検索を区別しています（2026年9月30日確認）。回答に引用があっても、その箇所が結論を支えるかは元資料で確認します。Gemini APIの長文入力の注意点

確認できない点が残れば採用を保留する

3．根拠の不足が残る回答は、確定情報として使わず保留します。必要な資料をそろえ、対象範囲や質問を絞って再確認してください。回答文が自然なことや、モデルが自信を示すことを、元資料との一致の代わりにしない方針です。

RAGと全文入力のどちらを使う場合も、資料を送ってよいかの判断は別に必要です。社内資料や個人情報では、所属先のルールと利用サービスのデータ条件を確認してください。本記事は、方式の違いだけから保存・削除・学習利用の条件を保証しません。

まとめ｜資料の渡し方を見直すのはいつ？

RAGと全文入力の選択は、資料の範囲・更新頻度・質問の種類、または利用するモデルや料金条件が変わったときに見直します。判断表と回答の確認手順へ戻り、今の条件で候補と保留条件を確かめてください。

まず、いま扱う資料と質問を1組選び、判断表で候補と保留条件を照合してください。「何を知りたいか」「どの範囲が必要か」「どの根拠を確認できたか」を残すと、方式名だけで選び直すことを避けられます。