【国立大学と研究したテックリードが語るAIの裏側 第1回】AIは「理解」などしていない？ニューラルネットワークと特徴量の正体

はじめに

「AIを使えば、いい感じにユーザーの意図を汲み取ってくれるんでしょ？」

システム開発の要件定義で、ビジネスサイドからこんな無邪気な言葉を投げかけられ、絶望した経験を持つエンジニアは多いのではないでしょうか。
人間のように言葉を紡ぎ、美麗な絵を描き、時にはコードまで書いてくれるAI。まるでシステムの中に「知性」が宿ったかのように錯覚してしまいます。

しかし、私たちエンジニアは騙されてはいけません。AIの中身は魔法ではなく、「極端に高度な数学と統計」です。

本連載【テックリードが語る、AIの「魔法」と「泥臭い現実」のすべて】では、全3回にわたり、AIをAPIで叩いたことはあるけれど、裏側の仕組みまでは踏み込めていないエンジニアに向けて、綺麗事抜きのリアルなAIの実態を解説します。

第1回となる今回は、AIがどのように世界を「認識」し、なぜ人間のように振る舞えるのか、その根本原理を解き明かします。

第1章：LLMの正体は「超巨大な連想ゲーム」と「重回帰分析」のバケモノ

AIが言葉を理解しているという幻想は、まずここで打ち砕きましょう。

⏱ 10秒まとめ：本章の結論

LLM（大規模言語モデル）は言葉の意味を理解しているのではなく、過去の膨大なデータから「次に来る確率が最も高い単語」を計算し続けているだけの、超巨大な統計マシーンです。

🌩 課題：こんなこと困るよね。難しいよね。

「AIが平気で嘘をつく（ハルシネーションを起こす）から使えない！」というクレーム、現場でよく聞きませんか？
これはAIの根本的な仕組みを誤解しているから起きる不満です。AIはデータベースを検索して「正解」を返しているわけでも、辞書を引いているわけでもありません。彼らはただ「それっぽい文字列」を生成しているだけなのです。ここを理解せずにAIをシステムに組み込むと、致命的な仕様バグを生み出します。

💡 解決策：採用理由と他の選択肢

なぜAIは「それっぽい」文章を作れるのでしょうか？
エンジニアの皆さんなら、大学や基本情報技術者試験で「重回帰分析（$y = ax_1 + bx_2 + c$）」をやりましたよね？ 複数の変数から結果を予測するアレです。

LLMのベースとなるアーキテクチャ（Transformerなど）は、極論を言えばあの重回帰分析のバケモノです。
単語を数値の配列（ベクトル）に変換し、数百層にも及ぶニューラルネットワーク（数千億個のパラメータという名の重み付け係数）を通して、「前の単語がコレとコレだから、次の単語はコレになる確率が98%」という計算をひたすら繰り返しているのです。
ルールベース（If-Else）の自然言語処理では限界があったため、現在のAIは「圧倒的な計算力による確率的推論」という力技のアーキテクチャを採用しています。

💻 具体例・サンプルコード

「昔々あるところに、おじいさんと○○が」という入力があった場合、LLMの内部では以下のような推論が行われています。（※理解を優先した極端な擬似コードです）

# 【擬似コード】LLMのテキスト生成の極端な抽象化モデル
def generate_next_word(input_text: str) -> str:
    # 1. 入力テキストを数値ベクトル（特徴量）に変換
    # "昔々": [0.1, -0.5, 0.8], "おじいさん": [0.9, 0.1, -0.2] ...
    input_vectors = tokenize_and_vectorize(input_text)

    # 2. ニューラルネットワーク（数千億の重み付け計算）を通過
    # ここで「おじいさん」のベクトルと関連性の高いベクトルが計算される
    # 重回帰分析の超絶進化版
    attention_scores = calculate_transformer_layers(input_vectors)

    # 3. 語彙データベースから、次に来る確率を算出
    vocab_probabilities = {
        "おばあさん": 0.95, # 圧倒的確率
        "犬": 0.03,
        "宇宙人": 0.0001
    }

    # 4. 確率が最も高い（またはランダム性を持たせて選ばれた）単語を返す
    # 辞書を引いているのではなく、計算結果として「おばあさん」が出力される
    return select_word_by_probability(vocab_probabilities)

# 実行
next_word = generate_next_word("昔々あるところに、おじいさんと")
print(next_word) # => "おばあさん"

🔰 初心者向け解説：LLMとは？

LLMは「超絶進化したスマホの予測変換」です。
あなたが「おつ」と打つと、スマホが「お疲れ様です」と予測しますよね。あれはスマホが「相手を労う意味」を理解しているからではなく、「おつの後は疲れ様ですが来る確率が高い」と過去のデータから知っているだけです。LLMは、それを世界中の本やネットの知識を使って、とんでもないスケールと精度でやっているだけなのです。意味は分かっていませんが、空気を読むのが異常に上手い人、と言えます。

第2章：画像生成AIの仕組み。ノイズから「特徴」を見つけ出す

言葉の次は「画像」です。AIはどうやってこの世界を視覚的に捉えているのでしょうか。

⏱ 10秒まとめ：本章の結論

画像生成AI（拡散モデルなど）は、砂嵐のようなノイズの中から「指定された条件に近い特徴（ベクトル）」を見つけ出し、削り出して絵を作っています。

🌩 課題：こんなこと困るよね。難しいよね。

画像生成AIを使っていると、「腕が3本ある」「指の数が合わない」といった不気味な画像が生成されることがありますよね。また、「もうちょっとだけ猫の目を大きくして」というプロンプト（呪文詠唱）が全く通じず、全く違う猫が生成されてイライラした経験はないでしょうか。
これは、AIが人間のように「キャンバスにピクセル単位で絵を描いている」と勘違いしているために起こるギャップです。

💡 解決策：採用理由と他の選択肢

画像生成AIの主流である「拡散モデル（Diffusion Model）」は、非常に面白いアプローチを採用しています。
まずAIに、綺麗な画像へ徐々にノイズ（砂嵐）を足して完全に壊す過程を学習させます。そして、本番ではその逆方向のプロセス（デノイジング）を行います。
つまり、完全な砂嵐の画像を与え、「この砂嵐の中から『猫』の特徴（尖った耳、ヒゲ、丸い目などのベクトル情報）を復元せよ」と指示するのです。AIはノイズを引き算しながら、学習した「猫という概念の特徴量」を浮かび上がらせていきます。

💻 具体例・サンプルコード

拡散モデルの画像生成プロセスを、配列データの操作に例えてみましょう。

# 【擬似コード】拡散モデルによる画像生成プロセス
def generate_image(prompt: str, steps: int = 50) -> Image:
    # 1. プロンプト（"猫"）を特徴量ベクトルに変換
    prompt_feature_vector = encode_text(prompt)

    # 2. 完全なランダムノイズ（砂嵐）の画像配列を生成
    # [ [0.5, 0.1, ...], [0.9, 0.2, ...], ... ]
    current_image = generate_random_noise_array(width=512, height=512)

    # 3. 指定されたステップ数だけ、ノイズを除去（デノイジング）していく
    for step in range(steps):
        # AIは「現在のノイズ画像」と「猫の特徴量」を見て、
        # どのピクセルが不要なノイズかを予測する
        predicted_noise = ai_model.predict_noise(current_image, prompt_feature_vector)

        # 予測したノイズを現在の画像から引き算する（少しだけ猫っぽくなる）
        current_image = subtract_noise(current_image, predicted_noise)

    # 4. ノイズが削ぎ落とされ、「猫の特徴」だけが残った画像が完成する
    return render_image(current_image)

「指が6本になる」のは、AIが手の構造を理解しているわけではなく、「手の周辺には肌色の細長いピクセル（指の特徴量）が複数集まる確率が高い」という統計情報に従ってノイズを削った結果、たまたま6本分の特徴量が浮かび上がってしまっただけなのです。

🔰 初心者向け解説：拡散モデルとは？

雲の形を見て「あ、犬に見える！」と連想する遊び（パレイドリア現象）を極めたものです。
真っ白な画用紙に絵を描くのではなく、大理石のブロック（ノイズ）の中から、「犬っぽい形」になるように余分な石を削っていく彫刻家をイメージしてください。AIには完成予想図が見えているわけではなく、削りながら「犬っぽくなってきたな」と確率計算を繰り返しているのです。

第3章：AIは「究極のマニュアル人間」。彼らは世界を知らない

ここまで見てきたように、AIは「確率」と「特徴量の抽出」の天才です。しかし、そこには決定的なものが欠けています。

⏱ 10秒まとめ：本章の結論

AIは「りんご」という単語と「赤い」という単語の関連性が高いことは計算で知っていますが、りんごの甘さや匂い、手触りを体験として「理解（意味づけ）」しているわけではありません。
水に入ったことがないのに、図鑑の知識だけで「完璧な泳ぎ方」を語るカナヅチの人です。

🌩 課題：こんなこと困るよね。難しいよね。

AIを業務システムに組み込む際、最も危険なのが「AIへの過大評価」です。

例えば、「ユーザーの入力したクレーム内容をAIに読ませて、緊急度が高そうなら担当者にアラートを飛ばす」という機能を実装したとします。一見うまく動きそうですが、AIは「緊急」という言葉の真の恐ろしさ（炎上リスク、損害賠償など）を理解していません。そのため、少し言い回しが丁寧なだけの深刻なクレームを「低リスク」と誤判定し、大事故に繋がるケースが現場で多発しています。

💡 解決策：採用理由と他の選択肢

AIが言葉をどう捉えているかを知るために、こんな状況を想像してみてください。

あなたはアラビア語（あるいは全く知らない外国語）を一切読めません。しかし手元には、「『A』という形の文字が来たら、『B』という形の文字を返せ」という、分厚くて完璧な対応マニュアルがあります。

あなたがそのマニュアル通りに記号を書き写して返信し続けると、アラビア語圏の相手からは「この人は完璧にアラビア語を理解している！」と絶賛されました。しかし、あなた自身は自分が「今日の天気」の話をしているのか、「爆弾の解除方法」の話をしているのか、意味を全く分かっていませんよね。

現在のAI（LLM）は、まさにこの「完璧なマニュアルを持った、意味を知らないオペレーター」と同じ状態です。単語という「記号」を確率に従って処理しているだけで、記号と実世界の意味が結びついていないのです（これをAIの分野で「シンボルグラウンディング問題」と呼びます）。

したがって、システムを設計する際は「AIに常識的な判断や意味の理解を委ねない」というアーキテクチャが必須になります。

💻 具体例・サンプルコード

AIの「理解のなさ」をカバーし、業務システムで安全に利用するためには、AIの出力をシステム側で強制的に枠に嵌める必要があります。

JSON

// ❌ 失敗するプロンプト設計（AIの理解力に依存）
{
  "system_prompt": "以下のクレーム内容を読んで、空気を読んで緊急度を判定し、どうすべきか教えてください。",
  "user_input": "御社の製品を使ったら火が出ました。大変遺憾です。"
}

// 💡 成功するプロンプト設計（記号処理マシーンとして扱う）
{
  "system_prompt": "あなたはテキスト分類システムです。以下のルールに厳格に従い、JSON形式で出力してください。\n 1. 入力テキスト内に '火', '煙', '怪我', '警察' のいずれかの特徴量（単語）が含まれる場合は、無条件で severity: 'High' とすること。\n 2. 理由の如何に関わらず、感情的な推測は排除すること。",
  "user_input": "御社の製品を使ったら火が出ました。大変遺憾です。"
}

このように、AIを「文脈を理解する賢いアシスタント」として扱うのではなく、「高度なテキストパーサー（解析器）」として扱い、最終的な意味付けや判断ロジックは従来通りのルールベース（プログラムコード）で制御するのが、現行のAI開発のベストプラクティスです。

🔰 初心者向け解説：シンボルグラウンディング問題とは？

水に入ったことがないのに、図鑑の知識だけで「完璧な泳ぎ方」を語るカナヅチの人です。

AIは、世界中の本を読み漁っているので「クロールは腕を交互に回し、息継ぎをする」という知識（テキストデータ）は完璧に知っています。しかし、「水の冷たさ」や「息ができない苦しさ」という実体験がありません。だからこそ、平気で「溺れている時は、落ち着いて深呼吸しましょう」といった、現実離れしたアドバイス（ハルシネーション）をしてしまうことがあるのです。重要な判断をAIに丸投げしてはいけない理由は、ここにあります。

おわりに

第1回では、AIの根本原理について解説しました。
AIは言葉を理解しているわけでも、想像力で絵を描いているわけでもありません。膨大なデータから計算された「確率」と「特徴量」を使って、極めて高度な「連想ゲーム」をしているだけです。

この「泥臭い数学の現実」を知ることで、初めて私たちはAIを正しくシステムに組み込み、コントロールすることができるようになります。

次回、第2回では「インフラと運用」の裏側に迫ります。
Googleの研究所内で動いているであろう「制限解除されたGeminiの真のスペック」のフェルミ推定や、世界中からの億単位のアクセス、そして悪意ある攻撃をどうやって捌いているのか。
ソフトウェアエンジニアの血が騒ぐ、インフラレイヤーの泥臭い現実をお届けします。お楽しみに！

用語集（Glossary）

• LLM（Large Language Model / 大規模言語モデル）
  膨大なテキストデータを学習し、人間のような自然な文章を生成したり理解（推論）したりするAIモデルの総称。ChatGPTやGeminiなどが該当する。
• 重回帰分析（じゅうかいきぶんせき）
  統計学の手法の一つ。複数の要因（説明変数）が、結果（目的変数）にどれくらい影響を与えているかを数式化して予測するもの。AIのニューラルネットワークの基礎的な考え方。
• ハルシネーション（Hallucination / 幻覚）
  AIが、事実とは異なるもっともらしい嘘を出力してしまう現象。AIは「正しい事実」ではなく「確率的に自然な文字列」を生成する仕組みであるため、必然的に発生する課題。
• デノイジング（Denoising）
  画像生成AI（拡散モデル）において、ノイズ（砂嵐）だらけの画像から、不要なノイズ成分を少しずつ除去し、目的の画像の特徴を浮かび上がらせるプロセスのこと。
• シンボルグラウンディング問題（記号接地問題）
  AIが処理している「記号（言葉）」と、現実世界の「意味・概念」が結びついていないという人工知能分野における古典的かつ重大な課題。りんごという文字列は知っていても、りんごの味や重さは知らない状態。