はじめに
機械学習や深層学習を学ぶ上で、最適化（微積分）と並んで重要なのが「確率・統計」です。特に「ベイズの定理」や「最尤推定」といった概念は、AIがどのようにデータを学習し、予測の確からしさを評価しているのかを知るための心臓部です。
この記事では、「そもそも確率とは何か？（頻度主義とベイズ主義）」という根本的な違いから、具体的な数値計算を用いた「ベイズ更新」の仕組みまでを解説します。
2つの確率：「頻度主義」と「ベイズ主義」
高校数学までの確率は、サイコロの目のように「誰がいつ振っても確率は変わらない（客観的な真実）」とする頻度主義です。
一方、機械学習の根底にあるのはベイズ主義（主観確率）です。
主観確率とは、「観測者が持っている情報量に基づいた、確信の度合い」のことです。
例えば、私の手の中に隠されたコインが表である確率は、あなたにとっては「50%」ですが、こっそり中身を見た私にとっては「100%」です。コインの物理的な状態は同じでも、「新しい情報を得たことで確率（確信度）がアップデートされた」のです。AIの学習とは、まさにこのアップデートの連続です。
ベイズの定理と各パーツの意味
このアップデートを数式にしたのが、ベイズの定理です。
$$P(\theta \mid D) = \frac{P(D \mid \theta) P(\theta)}{P(D)}$$
機械学習の文脈で、各変数は以下のような意味を持ちます。
- $\theta$：モデルのパラメータ（AIの仮説）
- $D$：観測された訓練データ（証拠）
- $P(\theta)$ 【事前確率】：データを見る前の、パラメータに対する思い込み（制約）。
- $P(D \mid \theta)$ 【尤度】：今の仮説 $\theta$ のもとで、このデータ $D$ が発生する確率（辻褄の合いやすさ）。
- $P(\theta \mid D)$ 【事後確率】：データを見た後の、アップデートされた新しい確率（確信度）。
AIの学習の目標は、この事後確率を最大化するようなパラメータ $\theta$ を見つけること（最大事後確率推定）です。
具体的な計算例：サッカーのPK予測
数式だけではイメージしづらいので、サッカーのPKの予測で実際に計算してみましょう。
- 事前確率： 相手エースは右に蹴る傾向が強い（$P(\text{右}) = 0.7$）
- 尤度1： 本当に右に蹴る時に「蹴る直前に右を見る（ヒント）」確率（$P(\text{見る} \mid \text{右}) = 0.8$）
- 尤度2： 左に蹴るのに「フェイントで右を見る」確率（$P(\text{見る} \mid \text{左}) = 0.3$）
ここで、相手が「右を見た」という新しいデータ（証拠）を観測しました。このとき、本当に右に蹴ってくる事後確率 $P(\text{右} \mid \text{見る})$ を計算します。
-
分子（右に蹴る、かつ、右を見る確率）：
$0.7 \times 0.8 = \mathbf{0.56}$ -
分母（フェイント含め、とにかく右を見る全確率）：
右に蹴って右を見る($0.56$) ＋ 左に蹴るのに右を見る($0.3 \times 0.3 = 0.09$) = $\mathbf{0.65}$ -
事後確率（割り算）：
$0.56 \div 0.65 \approx \mathbf{0.862}$
最初は「たぶん右だろう（70%）」だった確信が、「右を見た」というデータを観測したことで「絶対に右だ（86.2%）」へと強力にアップデートされました。
図1：ベイズ更新の可視化
まとめ：今日の事後確率は、明日の事前確率
ベイズ更新の最も美しい点は、「計算された事後確率（86.2%）を、次の新しい事前確率として再利用できる」というループ構造にあります。
次々と新しい訓練データを入力し、パラメータの事後確率を何度も上書き保存していく。これこそが、深層学習におけるAIの「学習」の正体です。
次回は、損失関数として使われる「交差エントロピー」と「KLダイバージェンス」の数学的な繋がりについて解説します！
【深層学習の数学】交差エントロピーとKLダイバージェンス：Loss関数の正体を暴く（直感でわかる確率・情報量 #2）