本稿について

本稿はSumio Watanabe ・著「Mathematical Theory of Bayesian Statistics」(Chapman and Hall/CRC, 2018)の読後メモです。

はじめに

大まかに渡辺澄夫先生の著作というと、以下の4つが挙げられます。

「Mathematical Theory of Bayesian Statistics」(Chapman and Hall/CRC, 2018)
以下、「緑本」と略す。 https://www.amazon.co.jp/dp/1482238063
「ベイズ統計の理論と方法」(コロナ社, 2012)
以下、「赤本」と略す。 https://www.amazon.co.jp/dp/4339024627/
「Algebraic Geometry and Statistical Learning Theory」(Cambridge University Press, 2009)
以下、「learning本」と略す。 https://www.amazon.co.jp/dp/B00H7WPCDE/
「代数幾何と学習理論」(森北出版, 2006)
以下、「学習本」と略す。 https://www.amazon.co.jp/dp/462781321X/

渡辺澄夫先生の著作は基本的には教育的なスタンスも強くありますが、それに加えて学術的な成果を示す傾向にあるため、その時々の最先端に触れることができる印象。
赤本は2012年の著作であり、以下のWBIC論文は2013年のもののため、赤本への未掲載なのは仕方ないでしょう。

S Watanabe (2013) "A widely applicable Bayesian information criterion" Journal of Machine Learning Research 14 (Mar), 867-897 (pdf Link)

その辺の要素がアップデートされていることを期待しました。

しかも、赤本は226ページだけど、緑本は330ページ！
内容のブレイクダウンも期待しました！

赤本からのアップデート内容や比較を中心に、話を展開します。
原則的には、先頭のページから読んでは行きますが、ものによってはあとに回すことになったりもします。
(おもに数値シミュレーション関連)

まずは、全体像について記載します。

各論の話に入る前に、全体としての印象の話をします。
おおまかには以下の通りです。

具体例が多い。
- 2章まるまると、具体的な統計モデルの扱いも出てくることが象徴的である。
- 数学的概念についても、なるべく例を出すようにして、理解を促すようになっている。
数学的な概念が必要以上に求められなくなっている。
特に、特異点と多様体は知らなくても、理論展開ができるような記載になっている。
WBICはモデル選択の計算として挙げられているが、証明とかの扱いはない。
たぶん、緑本の内容が理解できれば、該当論文も読めるようになる(はず！)ことから除外かと。
赤本には記載のあった変分ベイズだが、緑本において扱いがない。

いったんはこんなところで。
読後メモ(2)ではChapter1について記載する予定。

本来ははてなで書いていたが、Markdownで数式書くと、謎のエスケープ地獄になるので、一時退避場所としてQiitaさんにて書くことにした。
ある程度(転職？ジョブチェンジ？)活動が落ち着いたら、Netlify等に移行したいZe。