ことばを生む仕組みを、手元で。
LLMとは？
次の言葉が、
文章になるまで。
LLM（大規模言語モデル）は、大量のデータから言葉の関係を学んだAIモデルです。一般的な文章生成では、入力とそれまでの出力を手がかりに、次のトークンを選ぶ処理を繰り返します。
このページでは、生成の手順、temperature・top-p、資料を使うRAGを図解で体験できます。「なぜ自然に答えられるのか」と「なぜ確認が必要なのか」を、同じ仕組みから理解していきましょう。
- しっかり読む
- 約17分
- 要点を読む
- 約3分
LLMとは？生成AI・ChatGPTとの違い
LLMは「Large Language Model」の略で、日本語では大規模言語モデルです。学習した言葉や知識の関係を使い、文脈に応じた文章の生成・整理などを行います。
ChatGPTのようなサービスは、LLMを使うための画面に、検索、ファイルの参照、計算などの機能を組み合わせています。モデルそのものと、サービス全体でできることを分けると理解しやすくなります。
表は左右にスクロールできます →
| 言葉 | 何を指すか | 理解の手がかり |
|---|---|---|
| AI | 認識・予測・生成などを行う技術の広い呼び方 | 画像の分類や需要予測も含む |
| 生成AI | 文章・画像・音声などを生成する技術やシステム | 生成対象は文章に限らない |
| LLM | 大量のデータで学習した大規模な言語モデル | 文章生成や言語処理の中核になる |
| ChatGPT | モデルやツールを利用するサービス | 使える機能はモデル・設定・プランなどに依存 |
「巨大な予測変換」は入口になる比喩
「次に続く言葉を予測する」という説明は、スマホの予測変換を思い浮かべるとつかみやすくなります。ただし、LLMは多くの文脈を扱い、指示や例を踏まえながら長い出力を組み立てます。スマホ側の機能も製品で異なるため、「予測変換は直前の数文字しか見ない」とは言い切れません。
また、LLMは出典付きの正解を必ず取り出す百科事典ではありません。知識がモデル内部の数値に反映され、学習した文章の一部が再現される場合もありますが、回答の出どころが自動的に保証されるわけではありません。［8］［11］
最初に覚える用語は3つ
- トークン
- モデルが文章を扱う単位。単語、単語の一部、文字などになり、区切り方はモデルで異なります。
- 重み
- 学習によって調整される内部の数値。言葉や知識の関係を、計算に使える形で表します。
- 文脈
- その応答で参照する入力。指示、会話の履歴、渡した資料、それまでの生成結果などです。
「大規模」に普遍的な一つの境界値があるわけではありません。パラメータ数だけで性能を決めつけず、学習方法や用途、利用条件も見る必要があります。
LLMの仕組み｜学習と生成を分けて理解する
学習はモデルの重みを調整する段階。通常の利用では、学習済みの重みを使って次のトークンを計算・選択し、文章を伸ばします。質問のたびに学習をやり直すわけではありません。
大量のデータで予測と実際の続きを比べ、誤差に基づいて重みを調整します。指示に従う応答へ近づける追加学習なども行われます。
入力を読み、次の候補の確率を計算し、一つを選びます。生成したトークンを文脈へ加え、この処理を繰り返します。
会話中に「この文章は丁寧に」と伝えて出力が変わるのは、入力条件が変わるからです。通常のプロンプト操作で、モデルの重みがその場で書き換わるわけではありません。サービスのメモリ機能や、送信データが後日学習に使われる条件も、別の話として確認します。［2］
文脈をどう扱う？TransformerとAttention
多くのLLMで使われるTransformerは、言葉同士の関係を計算する仕組みを持ちます。中心的な要素の一つがAttentionです。例えば「花子は傘を買った。それを駅に忘れた」の「それ」が何を指すかを考えると、近くの文字だけでなく、文の中の関係が必要になると分かります。
文章を順に生成するモデルでは、入力と、すでに生成した内容が次の予測を支えます。まだ出力していない未来の文章を先に読んでいる、という意味ではありません。参照できる文脈には長さの上限もあります。［1］
LAB 01 / 次の候補から、文章へ
「計算する→選ぶ→文脈へ加える」を進める
区切り・確率・選択結果は説明用の固定例です。実際のトークナイザーやAIの内部表示ではありません。
01 / 06 入力を読む
次の候補を計算する前です。
まず入力を読みます。次へ進むと、この文脈に続く候補の確率を計算する段階が見えます。
一つ選ぶと、次の計算の入力が変わります。長い文章も、この繰り返しで組み立てます。学習はこのループに含めません。
「推論」という言葉には、二つの使われ方がある
機械学習でいう推論（inference）は、学習済みモデルを動かして出力を得ることです。一方、製品の「推論量」「思考レベル」は、reasoningに使う処理量などの設定を指します。言葉が同じでも、この記事の生成の仕組みと、製品画面の設定は分けて理解してください。
temperatureとtop-p｜変わるのは候補の選ばれ方
temperatureは候補の確率分布を変え、top-pは累積確率で候補を絞ります。どちらも、事実の正しさを判定する設定ではありません。
ある候補が選ばれやすいことと、その内容が正しいことは別です。「東京85％」のような図を見ても、それを回答の正答率85％とは読み替えられません。確率を高くするだけで、出典のない説明が正しい情報になることもありません。
temperatureは分布、top-pは残す候補を変える
一般的なサンプリングの説明では、temperatureを低くすると有力な候補に確率が集まり、高くすると分布が平らになります。top-pは確率の高い候補から足し合わせ、指定した値に達するまでを残す方法です。例えばtop-pが0.8でも「候補の80％を残す」という意味ではありません。［3］
LAB 02 / 一方ずつ、動かす
同じ5候補で、分布と絞り込みを見比べる
入力は「休日は」。5候補だけの説明用モデルで、基準分布は45・25・15・10・5％です。実サービスの推奨設定ではありません。
- 散歩45.0%
- 読書25.0%
- 昼寝15.0%
- 料理10.0%
- ゲーム5.0%
残る候補：5 / 5。最も選ばれやすい候補は「散歩」45.0％です。
図解の計算方法を見る
temperature側は、基準確率を1/T乗してから合計が1になるように割り直します。top-p側は、基準確率を大きい順に足し、累積値がp以上になる最小の候補群を残して割り直します。
切り替え時は両方を1へ戻し、一方だけを動かします。表示は小数第1位へ丸めるため、表示値の合計が100.0％からわずかにずれる場合があります。
実際の設定は、利用するモデルの既定値から
この図解の数値を、そのままAPIへ送らないでください。対応するモデル・API・推論設定を確認し、まず既定値で試します。変更できる場合も、一度に一方だけを変え、質問・資料・モデルなどをそろえて複数回比較します。
表は左右にスクロールできます →
| 対象 | 確認した条件 | 取る行動 |
|---|---|---|
| OpenAI APIの一般案内 | 原則としてtemperatureかtop_pの一方を変更 | 2項目を同時に変えず比較する［3］ |
| GPT-6系API | 推論量がnone以外ならtemperature・top_pは非対応 | 該当パラメータを送信しない［4］ |
| Claude Opus 4.7以降など | 対象モデルへの非既定値の指定は400エラー。SDKにも変更あり | 対象パラメータを省き、指示で振る舞いを指定する［5］ |
| Gemini 3 | temperatureの既定値1.0を強く推奨 | 低くするとループや性能低下の可能性があるため、公式条件を優先する［6］ |
低温＝正確、高温＝優秀なアイデア、という保証はありません。回答の多様性と、事実の正しさは別々に評価します。
ClaudeのPython SDK v1.0以降では、temperature・top_p・top_kが引数から除かれ、渡すとTypeErrorになると案内されています。モデルが受け付けるかと、利用するSDKが引数を受け付けるかの両方を確認します。［5］
アプリの画面に設定がない場合は？
ChatGPTなどの一般向けアプリでは、同じ名前の設定が表示されるとは限りません。「意味を変えず丁寧に」「重複しない案を5つ」「根拠がない項目は不明とする」のように、求める結果を指示します。これはtemperatureの数値を直接変更する操作とは異なります。
LLMにできること・苦手なことを仕事で判断する
使い分けは「文章を組み立てたいか」「根拠を探したいか」「厳密な計算が必要か」で考えます。LLMの出力だけで完了させる範囲と、資料・ツール・人の確認を加える範囲を決めましょう。
表は左右にスクロールできます →
| やりたいこと | LLMに任せる部分 | 追加する確認・道具 |
|---|---|---|
| メールを整える | 敬語・長さ・順番を調整 | 約束、日付、金額が変わっていないか |
| 議事録をまとめる | 結論・担当・期限を整理 | 元の記録との照合。不明な担当を補わない |
| 学習を助ける | 例え、説明、練習問題を作る | 教科書・配布資料との整合 |
| 最新料金を調べる | 調べた情報を比較表へ整理 | 検索、公式料金表、対象地域・確認日 |
| 合計や集計を出す | 計算手順や表の構成を考える | 電卓・表計算・コードと、入力条件の確認 |
| 社内ルールを答える | 関連資料に基づき説明する | 最新版の資料、参照権限、必要ならRAG |
| 重大な判断をする | 論点や確認事項を整理 | 責任者・専門家・原資料による判断 |
検索やコード実行が利用できるサービスなら、モデル単体の弱点を補える場合があります。ただし、ツールが利用できることと、その回答で実際に適切に使われたことは別です。何を参照し、何を計算したかを確認します。［6］
文体を変えても、事実は固定する
例えば「会議は金曜日へ延期する」という内容を丁寧にするなら、「会議は金曜日に延期いたします」とできます。「会議は中止となりました」では、丁寧でも内容が変わっています。
要約や言い換えは得意な用途ですが、元の意味が必ず保たれるわけではありません。依頼時に「日付・数値・決定事項は変更しない」と伝え、完成後にその部分を読み比べると、確認箇所を絞れます。
RAGとは？検索した資料を回答の根拠にする
RAG（検索拡張生成）は、質問に関係する外部資料を検索し、その内容を文脈へ渡して回答を生成する方法です。モデルが学習時に持っていなかった情報を、回答時に参照できるようにします。
「社内の出張申請は何日前まで？」と聞かれても、モデル内部の知識だけでは、その会社の最新ルールを確定できません。関連する規程を取り出し、該当箇所と一緒に答えさせることで、確認可能な回答へ近づけます。［8］
- 01 / 検索質問に関係する資料を探す
- 02 / 参照必要な箇所と出典を渡す
- 03 / 生成根拠と回答を対応させる
LAB 03 / 資料の状態で、答え方を変える
「出張申請は何日前まで？」
架空の社内規程を使う固定例です。実際の検索・社内資料へのアクセスは行いません。
資料A：現行の出張規程。「申請は出発の3営業日前までに行う」。
根拠に基づく回答例資料Aでは、出発の3営業日前までとされています。該当箇所と適用対象を確認してください。
資料が見つかっても、適用対象と現行版であることを確認します。引用があるだけで確認完了にはなりません。
資料を貼ることと、RAGの検索部分を分ける
自分で該当する資料を選んで貼り付ける方法も、根拠を与える体験として役立ちます。一方、RAGの説明では「質問に合う資料をどう探すか」が大切です。大量の文書を分けて検索できるようにしたり、関連度で候補を並べたりする設計が加わります。
資料の数を一律に3〜5件へ制限する必要はありません。必要な根拠がそろうか、条件や例外が抜けていないか、無関係な情報が混ざっていないかで判断します。短く切り出しすぎて、例外条件を落とすことにも注意が必要です。
RAGと追加学習は、変える場所が違う
RAGは回答時に参照する情報を補い、追加学習はモデルの重みを調整します。最新の社内規程を回答に使いたいのか、特定の出力形式や振る舞いへ適応させたいのかで、検討する方法が変わります。資料を渡しただけで、その知識がモデルへ永久に学習されるわけではありません。
ハルシネーション対策と、入力前・出力後の確認
ハルシネーションは、事実と異なる内容や、与えた資料で裏付けられない内容を、もっともらしく生成する現象です。流暢さ・自信のある言い方・出典らしい表示だけでは、正しさを判断できません。
学習情報の不足や古さ、文脈の読み違い、検索で必要な資料を取り出せないことなどが関係します。原因を温度だけに絞らず、根拠を与えることと、出力を照合することを組み合わせます。「不明な場合は保留して」と伝える方法も役立ちますが、誤りを完全になくす保証はありません。［7］
出典を要求したら、その次に本文を開く
- 確認する主張を切り出す。金額、日付、固有名詞、適用条件などを分けます。
- 出典を開く。URLが存在するかだけでなく、その情報の原資料にたどり着けるかを確認します。
- 該当箇所と照合する。回答と同じ内容を述べているか、対象モデル・地域・版が一致しているかを確かめます。
- 矛盾や不足を保留する。確認できた根拠を渡して修正を依頼し、修正後も見直します。
同じAIに聞き直して同じ答えが出ても、独立した根拠が増えたとは限りません。出典を必ず3件出させるより、必要な主張を支える資料があるかを重視します。更新日と、その情報が適用される日も区別します。
資料から整理させる、最初の依頼文
次の型は、事実確認をしやすい形で出力してもらうためのものです。送信前に資料の扱いを確認し、出力後は根拠を読み比べます。
全文を選択して手動でコピーすることもできます。
入力する前に、情報の扱いを決める
機密情報を送ってから「匿名化して」と頼む手順は避けます。まず送信してよい情報かを確認し、必要な削除・置換を済ませてから入力します。「A社」「担当者A」に置き換えても、案件や経歴から特定できる場合があるため、それだけで十分とは考えません。
会社の承認された環境と、個人向けの環境も区別します。学習への利用、データの保存期間、管理者や共有相手の閲覧範囲、外部ツールへの送信条件は別の項目です。「学習利用をOFFにした＝保存されない」ではありません。例えばOpenAI APIでも、学習利用の原則とログ等の保持条件は分けて案内されています。［9］
公開前は、事実と権利をそれぞれ確認する
文章が正確でも、引用や第三者の権利の条件を満たすとは限りません。出典を記載しただけで自由に利用できるとは考えず、引用の目的・範囲・区別や利用規約を確認します。画像やロゴなどを使う場合も、用途に応じた確認が必要です。［10］
全文を選択して手動でコピーすることもできます。
LLMについてよくある質問
LLMとは、一言でいうと何ですか？
大量のデータから言葉の関係を学んだ大規模な言語モデルです。一般的な文章生成では、文脈に続くトークンを順に選びます。自然に読める回答でも、事実の正しさは別に確認します。
生成AIとLLMは同じですか？
生成AIは文章・画像・音声などを生成する技術やシステムの広い呼び方です。LLMは言語を扱うモデルを指します。画像や音声も扱うモデルやシステムがあるため、名前だけで入出力の範囲を決めず、各製品の仕様を確認します。
質問すると、その内容をすぐに学習しますか？
通常の会話では、入力された情報を文脈として参照します。その場でモデルの重みが更新されることとは別です。メモリ機能や、送信データが後日学習に利用される条件は、サービスごとに確認します。
LLMは人間と同じように意味を理解していますか？
言葉の関係を計算し、意味に沿うような応答を行えますが、それを人間と同じ理解や体験だとみなせるかは別の問題です。実際に任せる際は、分かったように話すかより、根拠と出力を確認できるかを重視します。
temperatureを0にすれば、必ず同じ正しい答えになりますか？
正しさも完全な再現性も、一律には保証できません。そもそも0を指定できないモデルもあります。対応条件と既定値を確認し、誤りの検証は設定とは別に続けます。
top-pを小さくすれば、無関係な答えを防げますか？
top-pが扱うのは候補の累積確率です。誤情報や無関係な内容を意味で判定して除く機能ではありません。確率の高い候補にも、事実と合わない内容が含まれ得ます。
長い資料は、全部読ませればよいですか？
参照できる文脈には上限があり、長さが収まっても重要箇所の見落としがなくなるとは限りません。必要な資料と確認したい箇所を示し、例外条件を落とさない形で渡します。
RAGを使えばハルシネーションはなくなりますか？
なくなる保証はありません。必要な資料が見つからない、資料が古い、引用箇所を読み違えるなどの問題が残ります。根拠と回答の対応、適用条件を確認します。
このページの図解は、実際のAIの回答ですか？
いいえ。生成の手順とRAGは固定した教材例、temperatureとtop-pは説明用の5候補を使った計算です。実モデルへ接続せず、図解の操作内容をAPIへ送信しません。
まず何から試せばよいですか？
自分で内容を確認できる、公開済みの短い文章を一つ選びます。この記事の依頼文で要点と根拠を整理させ、元の文章と読み比べます。最初から機密資料や重大な判断を題材にする必要はありません。
まとめ｜仕組みを、使い方の判断につなげる
LLMを使うときは、生成の仕組みを理解したうえで、必要な資料と道具を用意し、確認する箇所を決めます。
- 学習と生成を分ける。通常の生成では、学習済みの重みを使って候補を計算し、選んだトークンを文脈へ加えます。
- 確率と正確さを分ける。temperature・top-pは選び方の設定。利用するモデルの対応条件と既定値を優先します。
- 必要なものを補う。最新の事実には原資料、計算には計算ツール、社内情報には適切な資料と権限を用意します。
- 根拠を開いて確かめる。出典の存在だけでなく、回答を支える箇所と適用条件まで確認します。
次の一歩は、公開済みの短い文章を一つ、根拠付きで要約させること。流暢さだけで採点せず、元の意味・日付・数値が保たれているかを読み比べてみてください。
コメント