ChatGPTやClaude、GeminiのようなAIに質問すると、まるで人間と話しているような自然な答えが返ってきます。

では、AIはどうして質問に答えられるのでしょうか。

「AIの中に答えが全部入っているの？」
「毎回インターネットで検索しているの？」
「それとも、その場で考えているの？」

実は、現在のLLM（Large Language Model：大規模言語モデル）は、主に次の3つの仕組みを組み合わせて答えを作っています。

パラメータ：学習したことを使う
推論：その場で考える
外部情報：必要なら調べる

難しい論文を読まなくても、まずこの3つを理解すれば、AIがどうやって答えを作っているのかをかなりイメージしやすくなります。

1. パラメータ：AIが学習したことを使う仕組み

まず一つ目が、パラメータです。

AIは、あらかじめ大量の文章を読んで学習しています。

たとえば、

本
Webページ
記事
プログラム
会話文
説明文

など、さまざまな文章から言葉の使われ方や関係を学びます。

ただし、AIは文章をそのまま全部暗記しているわけではありません。

文章を細かい単位に分け、それぞれの言葉がどのようにつながるのかを数学的に学習しています。

この細かい単位を**トークン（token）**と呼びます。

たとえば、

日本の首都は東京です

という文章も、AIの中ではいくつかのトークンに分けて処理されます。

そして学習では、

この言葉の次には、どんな言葉が来やすいか？

を何度も予測します。

その結果として調整される大量の数値が、パラメータです。

パラメータは「巨大な暗記帳」ではない

ここは少し大事なポイントです。

AIの中に、

日本の首都 = 東京

というデータが、Excelの表のようにそのまま保存されているわけではありません。

実際には、

「日本」
「東京」
「首都」
「国」
「都市」

といった言葉の関係が、たくさんの数値の組み合わせとして表現されています。

そのため、

日本の首都は？

と質問すると、AIは学習した関係をもとに、

東京です。

という答えが自然だと判断して出力します。

AIは「圧縮して、あとで文章に戻す」と考えるとわかりやすい

かなり単純化すると、LLMは次のように考えることができます。

大量の文章
    ↓
特徴や関係を学習
    ↓
パラメータとして保存

質問されたときは、

質問
 ↓
パラメータを使って計算
 ↓
次に来そうな言葉を予測
 ↓
文章を作る

という流れです。

つまりAIは、人類の文章に含まれているパターンを大量のパラメータに圧縮し、必要なときに文章として生成している、と考えると理解しやすいです。

2. 推論：覚えていないことでも、その場で考えられる

二つ目が推論です。

AIは、答えを全部覚えていなくても、わかっている情報を組み合わせて新しい答えを出すことがあります。

たとえば、

出生数：1,000人
死亡数：800人

という情報があったとします。

人口がどれだけ増えたかを知りたい場合、

1,000 - 800 = 200

と計算できます。

「答えは200人」という情報を最初から覚えていなくても、

出生数
死亡数
引き算のルール

がわかれば、その場で答えを出せます。

これが推論です。

「知っていること」と「考えてわかること」は違う

たとえば、

AはBより大きい
BはCより大きい

という情報があれば、

AはCより大きい

と考えられます。

この答えを丸暗記している必要はありません。

すでに持っている情報を組み合わせれば、新しい答えを作れます。

LLMでも同じように、

学習した知識
+
質問の中にある情報
+
計算や論理
=
新しい答え

という形で回答を作ることがあります。

パラメータが多ければ必ず賢い、というわけではない

「AIはパラメータが多いほど賢い」と説明されることがあります。

たしかに、モデルの大きさは性能に関係します。

しかし、実際の性能はパラメータ数だけで決まりません。

たとえば、

学習に使ったデータ
学習方法
モデルの設計
推論に使う計算量
ファインチューニング
外部ツールを使えるか

なども重要です。

最近のAIでは、単に「たくさん覚える」だけではなく、

答えるときにしっかり考える

ことも非常に重要になっています。

3. 外部情報：知らないことは調べる

三つ目が、外部情報を取得する仕組みです。

どれだけ高性能なAIでも、すべての情報を最初から知っているわけではありません。

特に苦手なのが、今この瞬間の情報です。

たとえば、

今日の株価はいくら？

という質問を考えてみます。

今日の株価は、AIが昔学習したデータの中には入っていません。

また、過去の知識だけを使って正確な今日の株価を計算することもできません。

このような場合は、実際の情報を外部から取得する必要があります。

AIは必要に応じて検索やツールを使う

現在のAIサービスでは、LLM単体ではなく、検索機能や外部ツールと組み合わせて使うことが増えています。

たとえば、

ユーザーが質問
      ↓
AIが「最新情報が必要」と判断
      ↓
Web検索
      ↓
情報を取得
      ↓
AIが内容を整理
      ↓
回答

という流れです。

AIが利用できる外部情報は、Web検索だけではありません。

たとえば、

データベース
社内資料
API
ファイル
計算ツール
プログラム
業務システム

などとも連携できます。

このような仕組みは、技術的には

RAG
Tool Calling
AI Agent

などと呼ばれることがあります。

3つの仕組みを簡単にまとめる

ここまでを整理すると、AIが答えを作る方法は次の3つに分けて考えられます。

仕組み	簡単に言うと	例
パラメータ	学習したことを使う	一般知識、文章、プログラミング
推論	その場で考える	計算、論理問題、コード解析
外部情報	必要なら調べる	今日の天気、株価、ニュース

もっと簡単に表すと、

知っている
    ↓
パラメータ

考えればわかる
    ↓
推論

調べないとわからない
    ↓
検索・ツール

という関係です。

具体例：今日の天気を聞いた場合

たとえば、AIにこう質問したとします。

今日の東京は傘を持っていったほうがいい？

この質問には、3つの仕組みが関わります。

まず、

雨が降るなら傘があると便利

という一般的な知識は、AIが学習済みです。

次に、

降水確率が高い
↓
雨が降る可能性が高い
↓
傘を持ったほうがよい

という判断には推論を使います。

しかし、

今日の東京の降水確率

は最新情報なので、検索や天気サービスから取得する必要があります。

つまり、

学習した知識
+
その場での推論
+
最新の天気情報
=
回答

となります。

AIの「知っている」は、人間の「知っている」と少し違う

私たちはよく、

ChatGPTは日本の歴史を知っている

のように言います。

ただし、AIの「知っている」は、人間の記憶とは少し違います。

LLMの場合は、

質問されたときに、
学習したパターンを使って
適切な答えを生成できる

という意味に近いです。

AIは頭の中に百科事典を持っていて、そこから文章をコピペしているわけではありません。

質問を受けるたびに計算を行い、次に来る言葉を一つずつ予測しながら回答を作っています。

では、なぜAIは間違えるのか？

ここまで理解すると、AIが間違える理由も見えてきます。

LLMの基本的な仕組みは、

正解をデータベースから探す

ことではありません。

基本的には、

この文脈なら、次にどんな言葉が自然か

を予測しています。

そのため、場合によっては、

文章としては自然なのに、内容は間違っている

ということが起こります。

これが、いわゆるハルシネーションです。

AIが間違いやすい代表例

たとえば、次のような場合です。

学習していない情報について聞かれた
最新情報なのに検索していない
質問の条件があいまい
計算や論理を途中で間違えた
信頼性の低い情報を参照した

そのため、AIを使う側も、

これはAIが知っていそうなことか？

考えればわかることか？

それとも検索しないとわからないことか？

と考えることが大切です。

AIを使うときに覚えておきたいこと

AIは「何でも知っている機械」ではありません。

より正確には、

学習した情報を使い、
必要に応じて推論し、
不足している情報は外部から取得する

仕組みです。

この違いを理解すると、

なぜAIが便利なのか
なぜAIが間違えるのか
なぜ検索機能が必要なのか
なぜRAGやAI Agentが注目されているのか

も理解しやすくなります。

まとめ

LLMが質問に答えられる理由は、大きく3つあります。

1. パラメータ

大量の文章から学習したパターンを使います。

つまり、

学習したことを使う

仕組みです。

2. 推論

すでに持っている情報を組み合わせて、新しい答えを出します。

つまり、

その場で考える

仕組みです。

3. 外部情報

AIだけではわからない情報を、検索やAPIなどから取得します。

つまり、

必要なら調べる

仕組みです。

まとめると、現在のAIは、

学習したことを使う
        +
その場で考える
        +
必要なら調べる

ことで、私たちの質問に答えています。

LLMの内部は非常に複雑ですが、まずはこの3つを覚えておけば、AIの仕組みを理解するための入り口としては十分です。

そして、AIを使ったサービスを作るときも、

何をAIに覚えさせるのか、何を考えさせるのか、何を外部から調べさせるのか

という3つに分けて考えると、設計がかなりわかりやすくなります。