LoginSignup
3
4

More than 3 years have passed since last update.

@oyoroco

PRML輪読 #1,2

Last updated at Posted at 2019-04-11

学習の忘備録

事前学習として記事末の参考リンクを一通り勉強した．
輪講の内容は以下．（リンク先の記事を執筆してくださった方々に感謝申し上げます．）

  1. 全体的な外観を捉えつつ学習したかったので，多項式あてはめで眺めるベイズ推定~今日からきみもベイジアン~の内容から始めた．
  2. ベイズの気持ちを少し理解した上で，教科書内容をPRML読み会第一章で押さえる．
  3. 2章はガウス過程への導入だと思ったのでガウス分布を重点的に．PRML本文は導出メインなのでガウス過程と機械学習3,4章で勉強．
    • 押さえておくべき事項
      • 確率変数
      • 確率密度関数
      • 確率過程
      • ガウス過程
      • 周辺化・周辺分布
      • 条件つき分布
      • 確率変数の独立性・確率変数の条件付き独立性
      • 多変量ガウス分布 PRML本文の導出は，”2つの変数集合の同時分布がガウス分布に従うなら，一方の変数集合が与えられた時の，もう一方の集合の条件付き分布もガウス分布になる．さらに，どちらの変数集合の周辺分布も同様にガウス分布になる．”というのが言いたい．
  4. 最後に，藤井四段で学ぶ最尤推定、MAP推定、ベイズ推定でもう一度復習．

目次

  1. 序論
    1. 例：多項式フィッティング
    2. 確率論
      1. 確率密度
      2. 期待値と分散
      3. ベイズ確率
      4. ガウス分布
      5. 曲線フィッティング再訪
      6. ベイズ曲線フィッティング
    3. モデル選択
    4. 次元の呪い
    5. 決定理論
      1. 誤識別率の最小化
      2. 期待損失の最小化
      3. 棄却オプション
      4. 推論と決定
      5. 回帰のための損失関数
    6. 情報理論
      1. 相対エントロピーと相互情報量
  2. 確率分布
    1. 二値変数
      1. ベータ分布
    2. 多値変数
      1. ディリクレ分布
    3. ガウス分布
      1. 条件付きガウス分布
      2. 周辺ガウス分布
      3. ガウス変数に対するベイズの定理
      4. ガウス分布の最尤推定
      5. 逐次推定
      6. ガウス分布に対するベイズ推論
      7. スチューデントのt分布
      8. 周期変数
      9. 混合ガウス分布
    4. 指数型分布族
      1. 最尤推定と十分統計量
      2. 共役事前分布
      3. 無情報事前分布
    5. ノンパラメトリック法
      1. カーネル密度推定法
      2. 最近傍法

参考リンク

slideshare

Jupiter notebook

その他

3
4
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
3
4