はじめに
この記事では、大規模言語モデル（LLM）がどのように質問に答えるのか、その根本的な仕組みを解説します。
技術的な論文や専門書を読まなくても、3つのメカニズムを理解するだけで、AIの動作原理を正確に把握できます。AI 開発に携わるエンジニアだけでなく、AIを日常的に活用するすべての人に役立つ内容です。
目次
パラメータメカニズム
大規模言語モデルとは何か
マクロな視点では、すべての大規模言語モデルは人間の知識の数学的モデルです。
LLMは学習データ（テキスト）を「トークン」と呼ばれる小さな単位に分解し、すべてのトークン間の統計的な関係を計算します。この処理を**トレーニング（学習）**と呼びます。
パラメータとは
トークン間の数学的な関係は、膨大な数の**パラメータ（重み）**として表現されます。
例として、GLM 5.3は7,440億個のパラメータを持ちます。これらのパラメータが、すべてのトークン間の関連性（重み）を構築します。
| モデル | パラメータ数 | 活性化パラメータ数 |
|---|---|---|
| GLM 5.3 | 7,440億 | 18B |
| DeepSeek V4 Pro | 非公開 | 49B |
推論時の動作
学習が完了すると、ユーザーが質問を入力した際に、モデルはこれらの重みを使って最も確率の高いトークン列を生成し、回答を出力します。
重要なポイント： LLMは本質的に「圧縮→生成」のメカニズムです。人間の知識を無数のパラメータに抽象化し、クエリに応じて再生成します。
推論メカニズム
パラメータだけでは不十分な理由
パラメータが多いほどモデルの性能は向上します。しかし、パラメータを無限に増やすことはできません。
-
コストの問題： 学習コストと推論コストが急激に上昇する
-
時間の問題： 推論にかかる計算時間が長くなる
さらに重要なのは、すべての知識をパラメータに含める必要はないという点です。多くの知識は論理的な推論によって導出できます。
推論の具体例
ある都市の出生率と死亡率がわかれば、人口の純増加率はすぐに計算できます。この情報をわざわざ記憶する必要はなく、推論によって得られます。
人口純増加率 = 出生率 − 死亡率
LLMはこの推論メカニズムを活用して、パラメータに含まれていない知識を論理規則から推論して導き出します。
推論モデルの位置づけ
o1やDeepSeek-R1などの**推論モデル（Reasoning Models）**は、このメカニズムを強化したものです。推論時に多くの計算リソースを使用し、論理の連鎖を展開してから回答を生成します。
記憶と推論の違い： 教科書を丸暗記した学生は既出の問題には答えられますが、初見の問題には対応できません。一方、概念を理解した学生は未知の問題にも対応できます。LLMの推論メカニズムも同様です。
Web 検索メカニズム
パラメータと推論の限界
どれだけパラメータが多く、推論能力が高くても、答えられない質問は必ず存在します。
例：
「今日の日経平均株価の終値は？」
この情報はパラメータに含まれておらず、推論でも得られません。
AgentとツールによるWeb 検索
このような場合、モデルはAgentまたはアプリケーションフレームワークが提供する Web 検索メカニズムを利用して、インターネットから必要な情報を取得します。
ユーザーの質問
↓
LLM（パラメータ + 推論）
↓ 知識が不足している場合
Web検索 / API呼び出し / データベース検索
↓
外部情報を取得して回答を生成
現在利用できるほとんどのAIアシスタント製品は、この3つのメカニズムをすべて組み合わせたシステムです。
AIエラーの診断
3つのメカニズムを理解すると、AIが誤った回答をした際にどのメカニズムが失敗したかを特定できます。
エラーの分類
| エラーの種類 | 症状 | 原因となるメカニズム |
|---|---|---|
| ハルシネーション | 自信を持って誤った事実を述べる | パラメータ問題（学習データが不正確・不足） |
| 古い情報 | 「知識のカットオフ時点では〜」という回答 | Web 検索問題（リアルタイム情報が取得できない） |
| 論理エラー | 正しい前提から誤った結論を導く | 推論問題（推論プロセスの失敗） |
診断フローチャート
AIの回答が間違っている
↓
┌───────────────────────────┐
│ 事実そのものが間違っている？ │
└───────────────────────────┘
│Yes │No
↓ ↓
パラメータ問題 ┌─────────────────────┐
（ハルシネーション） │ 情報が古い・存在しない？ │
└─────────────────────┘
│Yes │No
↓ ↓
Web検索問題 推論問題
（情報取得失敗） （論理エラー）
まとめ
AIが質問に答えられる理由は、以下の3つのメカニズムの組み合わせによるものです。
-
パラメータメカニズム： 学習時に人間の知識をパラメータに圧縮し、クエリ時に展開して基本的な知識を提供する
-
推論メカニズム： パラメータに含まれる知識を論理規則で展開し、推論によって得られる知識を補う
-
Web 検索メカニズム： 上記2つのメカニズムでは取得できないリアルタイム情報や外部データを取得する
この3層構造を理解することで、AIの動作をより正確に把握し、エラーの原因を効率的に診断できるようになります。