日本語の書籍でベイズ分析を行えるようになる
こんにちは,株式会社Nospareリサーチャー・千葉大学の小林です.本記事ではベイズ統計学をしっかり学習できる日本語の書籍を紹介したいと思います.
ベイズ統計学は「ベイズの公式」
p(B|A)=\frac{p(A|B)p(B)}{p(A)}
に基づいて統計的推測の方法論を提供する統計学の一分野で,マルコフ連鎖モンテカルロ法(MCMC)や逐次モンテカルロ法(SMC)などのシミュレーションに基づいて期待値(積分)を近似する数値計算方法の発展とともに,自然科学・社会科学を問わず非常に幅広い領域で適用されてきています.ベイズ統計学を学習・適用するにあたっては
- データの確率モデルに対する尤度関数を定義する
- 未知パラメータの事前分布を定義する
- 未知パラメータの事後分布を導出する
- 事後分布に基づいてベイズ推定量を導出する
などといった項目についての理解が必要になります.とくに「事後分布に基づいてベイズ推定量を導出」に関しては,事後分布が解析的に得られない場合にはMCMCやSMCなどの数値計算方法の適用が避けられないため,これらの方法についての理解と実装に関するスキルも必要となります.
Pythonによる ベイズ統計学入門
「Pythonによる ベイズ統計学入門 (実践Pythonライブラリー) 」は,ベイズ統計学に関する基本的な理論からPythonによるMCMCの実装までトータルに学習することができます.2章ではベイズ統計学の基本的な理論について書かれており,3章では解析的に解けるシンプルなモデルをもとにベイズ的推測方法について学習します.4章ではPyMCというPythonのMCMCのモジュールを使った実装を行います.尤度関数や事前分布に関して記述するだけでかんたんにMCMCによるベイズ解析を行うことができます.5章ではガウス線形状態空間モデルを取り上げ,カルマンフィルターやスムーザーの導出をおこない.PyMCでのベイズ推定を行います.最後に6章でMCMCの解説を行います.この本の特徴として各例においてPythonによる実装が事細かに解説されていることが挙げられます.理論部分に関しても数式の導出が丁寧に解説されているので,理論・実装を両方ともしっかり学習することができるでしょう.
ベイズ計算統計学 (統計解析スタンダード)
「ベイズ計算統計学 (統計解析スタンダード)」では,ベイズ統計学においてよく使われるMCMCや重点サンプリングといった種々の数値計算の方法について詳しく記述されています.1章ではベイズ統計学に関する基本的な理論について書かれており,事後分布に関するベイズ的推測についての考え方や解析的な近似方法について学習します.2章ではシミュレーションに基づく数値計算手法「モンテカルロ法」について広く取り上げており,確率分布から直接乱数を発生させる方法や重点サンプリングとその拡張について説明がなされています.3章ではMCMCとその拡張が紹介されています.4章と5章ではMCMCを用いて線形回帰モデル,線形モデルにおける変数選択,プロビットモデル,分位点回帰モデル,一般化線形モデル,隠れマルコフモデル,ディリクレ過程混合モデル(ベイズノンパラメトリックモデルのひとつ)などの実際によく用いられるモデルのベイズ推定の手続きが具体的に説明されています.付録として行列計算プログラミング言語Oxのソースコードがついてきますが,Ox自体かなりマイナーな言語なのでプログラミング初心者はコーディングに関しては他書をあたったほうがいいかもしれません.
Pythonで体験するベイズ推論:PyMCによるMCMC入門
「Pythonで体験するベイズ推論:PyMCによるMCMC入門」の最大の特徴はPythonモジュールPyMCにフォーカスしているということでしょう.上述のようにPyMCを使うことでMCMCのサンプラーの設計やコーディングを行わずに.尤度関数と事前分布について特定するだけですぐにベイズ推論を行うことができます.機械学習に関する具体例が取り上げられているということも上の二冊とは異なる点です.
おまけ:ベイズ統計学の歴史を知る
ベイズ統計学は特にMCMCなどの数値計算方法の発展により,研究領域としてまた実践的な統計手法として1990年代後半から大きな関心を寄せるようになりました.しかしベイズ統計学はもっと昔から人類の歴史の重要な局面において度々活躍をしていました.「異端の統計学 ベイズ」はそんなベイズ統計学の歴史について書かれています.ベイズ統計学を勉強していくうちにその歴史についても興味を持ったら読んでみてください.
株式会社Nospareではベイズ統計学に限らず統計学の様々な分野を専門とする研究者が所属しており,多様なニーズにお応えできます.統計アドバイザリーやビジネスデータの分析につきましては弊社までお問い合わせください.