この記事の対象者
この記事では「統計ってなに？」「ベイズ統計とか初めて聞いた〜」って人向けに、できるだけ直感的 に、数式をあまり使わずに ベイズ統計学を説明しています。
私自身、大学では統計のゼミに入っていましたが、最初は全くついていけず苦労しました……
この記事では、あの時の自分に向けて、「これを知っていればもっとベイズの勉強がしやすかった」ってことを詰め込んでいます！
記事のゴールはベイズ統計のおもしろさがなんとなく分かることです！統計学が面白いってことが伝わってくれたらうれしいです。
私も統計の面白さにハマって勉強したおかげで、大学四年生の時に統計検定準一級の最優秀成績賞をいただくことができました！
興味を持った人はぜひ『標準 ベイズ統計学』や『データ解析のための統計モデリング入門』を読んでみてください！
世界が広がること間違いなしです！
分布ってすげー
分布
「分布」という道具を見ていきます！
例えば、「日本人の成人男性の身長」をイメージしてみましょう。
170cmくらいの「平均的な身長」の人が一番多くて、160cm以下の人や、180cm以上の人はだんだん少なくなっていきますよね。
これをグラフに表すと、真ん中が山のように膨らんだ形になります。これを統計学では「正規分布」という道具を使って表現できます！
正規分布などの「分布」は数式を使って表すことができます。
この「分布」の何がすごいかというと、これが分かれば未来や未知のデータが予測（推定）できてしまう点です。
分布って奥が深いんです。
すごいところ1. 「点」で予想できる（点推定）
分布の形が分かれば、「次に部屋に入ってくる男性の身長はどれくらいか？」を1つの数字で予想できます。
期待値
平均値という場合もあります。 期待値も奥が深いです。
直感的にいうなら、確率的にあり得そうな「真ん中」の値を狙う方法です。
最頻値
もっとも多く頻出する数値です。初めて聞く方もいるかもしれませんが、分布の考え方がわかっちゃえば割と直感的に理解できます。グラフの「一番山のてっぺん（最も確率が高い場所）」を狙う方法です。
すごいところ2. 「幅」を持たせて予想できる（区間推定）
「絶対に170cmピタリ！」と当てるのは難しくても、「165cm〜175cmの間に、95%の確率で収まりますよ」というように、安全な予測の「幅」を計算することもできます。
ただしパラメータがわかってないと推定できない
これだけ便利な分布ですが、弱点があります。それは、「その分布の形が、最初から分かっていないと使えない」ということです。
正規分布を使うには「山の真ん中」の情報と、「山の横幅」の情報が必要になります。
従来の統計学では、パラメータを「一つの値」として推定します。しかしベイズ統計学は「パラメータの分布」を考えることで、いろんな可能性を考えることができます。
ベイズ統計ってすげー
ベイズ統計が使える条件
手元にあるデータが交換可能、データの順番をシャッフルしても、意味が変わらない時、ベイズ統計が使えます。
1人目の身長と、2人目の身長、どちらが先に観測されようと大した差はないので、交換可能性が成り立ちます。
ベイズの定理
ベイズ統計学は、次の「ベイズの定理」がもとになってます。
P(B|A) = \frac{P(A|B) P(B)}{P(A)}
数Aで見た人も多いかもしれません。
数Aでは、$P(A|B)$や$P(B)$に具体的な「確率の数値」を代入して、$P(B|A)$の「確率の数値」を求めました。
ベイズ統計ではこの公式をそのまま「分布」に当てはめます。
事前分布と事後分布
一般的な統計学では「データの特徴（パラメータ）は1つの決まった値である」と考えますが、ベイズ統計では「データの特徴そのものも、確率でゆらゆら動く分布である」と考えます。
ベイズ統計におけるベイズの定理を見ていきます。（簡潔に書くために正確性は若干欠いております🙇♂️）
今回データ$x$が、パラメータ$\mu$に依存する分布から得られたとします。
P(\mu|x) = \frac{P(x|\mu) P(\mu)}{P(x)}
ひとつひとつ要素を見ていきましょう。
$P(x|\mu)$
▷これがパラメータ$\mu$に依存する分布から$x$が得られるもっともらしさ を表します。
このとき$\mu$は値がわかってませんが、$x$は値がすでに分かっています。
$P(\mu)$
▷これは事前分布 と言われ、多分μはこんな分布に従うだろうなっていう、$\mu$の形を予測した分布です。
$\mu$の具体的な数値はわかってなくて大丈夫ですが、$\mu$の分布を決めるパラメータは分かっている必要があります。
$P(x)$
▷これは$\mu$に依存しない、$x$が得られるもっともらしさです。すべてのあり得る$\mu$を$P(x|\mu)$ に代入して、それら全てを足し合わせたイメージです。ここでのポイントは、$\mu$ に影響されない「ただの定数」になるところです！
つまり$P(x|\mu)$ や$P(\mu)$ のように分かっていない値はありません！
$P(\mu|x)$
▷$P(x|\mu)$ や$P(\mu)$の情報を使うと、最終的に$P(\mu|x)$という分布が得られます。これは事後分布 といい、$x$というデータを取り入れてアップデートした$\mu$の分布のことです。$\mu$の事前分布から$x$の情報が取り入れられ、パラメータがアップデートされています！
これは手計算で計算できるケースもありますが、複雑なものはコンピュータで計算されます。このときMCMC というアルゴリズムが使われます。
ベイズ統計の一番の魅力は、「最初は勘だったとしても、データを見るたびにどんどん正確にアップデートされていく」というプロセスにあります。
最初の上手な設定のしかた
「じゃあ、事前分布はどうやって決めるの？」と思いますよね。
主に3つの決め方があります。
主観で決める
データに主観を取り込めることはベイズ統計学の強みでもあります。ビジネスの現場では、現場の声を取り入れることも可能です！
無情報事前分布を使う
最初のヒントが全くない時は、「どこも同じくらい確率があり得る」という、あえて偏りのないフラットな事前分布を使います。
【🚗 少し発展的な話 🚗】
データにもよりますが、分散を1000くらい大きくした正規分布は無情報に近くなります。また『標準 ベイズ統計学』では、演習問題でジェフリーズ事前分布と単位情報事前分布を扱っています。無情報事前分布は便利なので、本編で詳しく説明してくれてもよかったのにって思いますが、いい演習問題なのでぜひ解いてみてください。
階層ベイズモデルをモデリングする
事前分布のパラメータに対して、さらに事前分布を設定してあげることで、階層的なモデルを作ることができます。
具体的な使い方としては、「個人のデータ」の背景には「グループ全体のデータ」があるといったように、応用を効かせやすいのがポイントです。
『データ解析のための統計モデリング入門』で丁寧に扱われています。
余談：頻度論とベイズ
大学や高校で統計学として扱う場合、だいたい「仮説検定」を扱うことが多いと思います。
このような統計学とベイズ統計学は「確率」についての捉え方が異なります。
- 頻度論の「確率」：無限に繰り返した時の割合
- ベイズの「確率」：不確実性・信念の度合い
頻度論とベイズはよく比較されます。
どちらが優れているという話ではなく、それぞれ強みがあり、お互いを補い合う関係でもあります。
頻度論と比較した時のベイズの強みとしては次のようなことがあげられます。
- あるデータが欠けたことによって結果が大きく変わることはあまりない
- サンプルサイズの調整が柔軟に行える
- 主観をデータに取り込むことができる
- 事後分布を分析することで、予測結果に対するもっともらしさを評価することができる
終わりに
今回、初学者の時に知っておきたかったことをまとめてみました。
ベイズ統計学おもしろ！ってなったらぜひ『標準 ベイズ統計学』や『データ解析のための統計モデリング入門』を読んでみてください！
分布や期待値などについては、難易度めちゃくちゃ高いですが、『現代数理統計学の基礎』が詳しいです。
誰かの勉強の役に立てたなら嬉しいです！
統計学の面白さが少しでも伝わったら何よりです！☺️