KDD2015 Stochastic Divergence Minimization for Online Collapsed Variational Bayes Zero Inference of Latent Dirichlet Allocationを読んだ
どんなもの？
collapsed VB0の確率的近似であるstochastic CVB0を改良し、LDAに適用した。
先行研究と比べると？
- CVB0の性質の理解が進み、非対称なディリクレ分布のLDAに対するCVB0を導出した
- CVB0よりも性能が良い
技術や手法のキモはどこ？
確率的なダイバージェンスの最小化問題として定式化した
どうやって有効だと検証した？
ハイパーパラメータをbayesiam optimizationしたSCVB0と比べて、perprexityが低くなった。
提案手法はハイパーパラメータのチューニングはしていない。
次に読むべき論文は？
- Stochastic Collapsed Variational Bayesian Inference for Latent Dirichlet Allocation.