はじめに

機械学習や深層学習を学ぶ上で、最適化（微積分）と並んで重要なのが「確率・統計」です。特に「ベイズの定理」や「最尤推定」といった概念は、AIがどのようにデータを学習し、予測の確からしさを評価しているのかを知るための心臓部です。

この記事では、「そもそも確率とは何か？（頻度主義とベイズ主義）」という根本的な違いから、具体的な数値計算を用いた「ベイズ更新」の仕組みまでを解説します。

2つの確率：「頻度主義」と「ベイズ主義」

高校数学までの確率は、サイコロの目のように「誰がいつ振っても確率は変わらない（客観的な真実）」とする頻度主義です。

一方、機械学習の根底にあるのはベイズ主義（主観確率）です。
主観確率とは、「観測者が持っている情報量に基づいた、確信の度合い」のことです。

例えば、私の手の中に隠されたコインが表である確率は、あなたにとっては「50%」ですが、こっそり中身を見た私にとっては「100%」です。コインの物理的な状態は同じでも、「新しい情報を得たことで確率（確信度）がアップデートされた」のです。AIの学習とは、まさにこのアップデートの連続です。

このアップデートを数式にしたのが、ベイズの定理です。

$$P(\theta \mid D) = \frac{P(D \mid \theta) P(\theta)}{P(D)}$$

機械学習の文脈で、各変数は以下のような意味を持ちます。

AIの学習の目標は、この事後確率を最大化するようなパラメータ $\theta$ を見つけること（最大事後確率推定）です。

数式だけではイメージしづらいので、サッカーのPKの予測で実際に計算してみましょう。

ここで、相手が「右を見た」という新しいデータ（証拠）を観測しました。このとき、本当に右に蹴ってくる事後確率 $P(\text{右} \mid \text{見る})$ を計算します。

分子（右に蹴る、かつ、右を見る確率）：
$0.7 \times 0.8 = \mathbf{0.56}$
分母（フェイント含め、とにかく右を見る全確率）：
右に蹴って右を見る($0.56$) ＋左に蹴るのに右を見る($0.3 \times 0.3 = 0.09$) = $\mathbf{0.65}$
事後確率（割り算）：
$0.56 \div 0.65 \approx \mathbf{0.862}$

最初は「たぶん右だろう（70%）」だった確信が、「右を見た」というデータを観測したことで「絶対に右だ（86.2%）」へと強力にアップデートされました。

ベイズ更新の最も美しい点は、「計算された事後確率（86.2%）を、次の新しい事前確率として再利用できる」というループ構造にあります。
次々と新しい訓練データを入力し、パラメータの事後確率を何度も上書き保存していく。これこそが、深層学習におけるAIの「学習」の正体です。

次回は、損失関数として使われる「交差エントロピー」と「KLダイバージェンス」の数学的な繋がりについて解説します！
【深層学習の数学】交差エントロピーとKLダイバージェンス：Loss関数の正体を暴く（直感でわかる確率・情報量 #2）