はじめに

機械学習の汎化誤差を分析する道具としてPACベイズ理論があります。
わたしが、わかりやすいと思った記事を共有します。

リンク

おわりに

　統計的学習理論とPACベイズ理論の違いについてまだわかってないです。
　PACベイズ理論は、汎化誤差を調べるときに、事前分布と事後分布をKLダイバージェンスで測り、過学習してないかをみてそうです。
　統計的学習理論は、あんまりそこらへんは意識してなさそうで、より一般的な機械学習の汎化誤差を分析しているように思われます。