🧭 はじめに

LLM（Large Language Model）は賢く見える。
説明もできるし、推論もしているように振る舞う。

ただ、少し中身を見ると分かるが、
やっていること自体は驚くほど単純だ。

この記事では、

🔍 LLMが「何をしている装置なのか」
🧠 なぜ「理解しているように見えるのか」
⚠️ なぜ「制御や判断に直接使えないのか」

を、構造（Mermaid）で可視化する。

🎯 LLMがやっていること（結論）

LLMは常にこれだけをやっている。

次に来そうなトークンを確率で選ぶ

意味を理解しているわけでも、
世界を認識しているわけでもない。

文脈 → 確率 → 生成
それだけの巨大な変換器である。

🏗 全体構造（LLMの中身）

ポイントは3つだけ。

📐 テキストは数値に変換される
🎲 内部では確率計算しかしていない
🔁 1トークンずつ生成を繰り返している

「考えている」工程は存在しない。

🔎 Self-Attention の正体

なぜ理解しているように見えるのか

Self-Attentionは、

🧩 文中のすべてのトークン同士の関係を
⚡ 一度に計算する仕組み

これにより、

主語と述語
因果関係
文脈依存

を距離に関係なく拾える。

結果として
文脈を理解しているような文章が生成される。

🧪 「理解していない」ことの可視化

LLMの内部では、次のようなことが起きている。

入力：
「LLMのからくりは」

内部：
--------------------------------
「単純」   : 0.41
「確率」   : 0.27
「実は」   : 0.12
「複雑」   : 0.08
その他      : ...
--------------------------------

→ 一番高いものを選ぶ

❌ 正解かどうかは見ていない
❌ 意味が正しいかも判断していない
⭕ 確率が高いかどうかだけ

それでも自然な文章になるのは、
学習データが「人間の思考の痕跡」だからだ。

🧍 人間とLLMの決定的な違い

LLMには、

🧠 状態 ❌
💾 記憶 ❌
🎯 目的 ❌
🌍 世界 ❌

が存在しない。

あるのは
入力を出力に変換する関数だけである。

🚫 なぜ制御や判断に使ってはいけないのか

理由は単純だ。

状態を保持できない
正しさを評価できない
時間的連続性を持てない

つまり、

制御に必要な要素を、構造的に持っていない

🛠 LLMが一番向いている役割

📝 曖昧な文章 → 構造化
📄 ログ → 原因候補の列挙
🧩 仕様 → 下書き生成
🔍 差分 → 説明文生成

判断の前段階
人間が面倒な中間作業

ここに置くと、非常に強力だ。

✅ まとめ

LLM = 知能 ❌
LLM = 思考 ❌
LLM = 判断 ❌

LLM = 文脈 → 確率 → 生成 の変換器 ⭕

ブラックボックスに見えるが、
構造で見ると置き場所ははっきりする。

LLMは「何ができるか」より
**「どこに置いてはいけないか」**を理解すると使える。