本稿の内容

よくベイズ統計学の話を聞くので、手始めにベイズの定理の証明をやってみました。
本稿では条件付き確率からベイズの定理を証明していきます。

ベイズの定理

{P(A|B) = \frac{P(B|A)P(A)}{P(B|A)P(A)+P(B|A^c)P(A^c)}
}

これが今回証明したい対象です。
これを使うと色々嬉しいことがあるようなのですが、本筋からずれるので興味のある人はその辺で調べてください。

前提として条件付き確率については知っているものとします。

条件付き確率はこんな感じです。

{P(A|B) = \frac{P(A∩B)}{P(B)}}

なお、
P(A|B):事象Bの起きた時に事象Aの起こる確率
P(A)：事象Aの起こる確率
P(B)：事象Bの起こる確率
P(A∩B)：事象Aと事象Bの起こる確率
とします。

証明の方針とStep 1~3の実際の証明をここでは示します。

方針としては、条件付き確率の

{P(A|B) = \frac{P(A∩B)}{P(B)}}

を変形してベイズの定理の形に持っていく感じです。

ここでは条件付き確率の分子と分母をそれぞれ変形していきます。

手始めに条件付き確率の分子にあるP(A∩B)を変形していきます。
条件付き確率を考えると、

{P(B|A) = \frac{P(A∩B)}{P(A)}}

となることから、

P(A∩B) = {P(B|A)}{P(A)}…①

となることがわかります。

Bの起きる確率については、Aの起きた場合と起きなかった場合を考えれば良いから、

P(B) = P(A∩B)+P(A^c∩B)=
{P(B|A)P(A)+P(B|A^c)P(A^c)}…②

となります。

これまで計算してきた①と②を

{P(A|B) = \frac{P(A∩B)}{P(B)}}

に代入すると、

{P(A|B) = \frac{P(B|A)P(A)}{P(B|A)P(A)+P(B|A^c)P(A^c)}
}

となり、確かに証明したかったベイズの定理の形になっています。

教科書の行間が広くて厳しいことがあるのですがこんな感じに丁寧に証明していくしかないのかなという気持ちです。
TeXを使ったことがなくて数式入れるのに苦労しました。

大屋幸輔（2011）『コア・テキスト統計学　第2版』新世社．