LoginSignup
1

More than 5 years have passed since last update.

機械学習論文読みメモ_92

Posted at

Density Estimation via Discrepancy Based Adaptive Sequential Partition, NIPS2016
あるドメインにおいて定義される絶対連続な分布よりiidな観測が得られている場合において、その確率密度分布を区分定値な関数を用いて学習するノンパラメトリック手法を提案する。
この区分定値関数はバイナリ分割を行っていく事で構築される。
提案手法において鍵となるのは、Quasi Monte Carlo分析の分野より提案されているdiscrepancyの指標を用いる事で分割を制御する事である。
このdiscrepancyは一様性を測る事に用いる事ができる指標である。
結果提案手法は簡単かつ効率的で、また証明された収束レートを持つ。

Multi-view Anomaly Detection via Robust Probabilistic Latent Variable Models, NIPS2016
Multi-viewデータ関して、それらに一貫しない異常データの検出を行う潜在変数モデルを提案する。
提案手法では、1つの潜在変数ベクトルから全てのデータが生成できると仮定する。
異常なデータの場合、2つ以上の潜在変数ベクトルを用いないとそのデータを表現出来ないと仮定する。
あるデータを表現するために必要なベクトル数をDirichlet processで予測し、それによりmulti-view anomaly scoreを計算する。
この提案手法はノイジーなmulti-view dataに対して適用可能な、probabilistic canonical correlation analysisのロバスト化したものと考える事ができる。

Variance Reduction in Stochastic Gradient Langevin Dynamics, NIPS2016
Stochastic gradient Langevin dynamicsは大規模データに対する事後分布推定のための手法として用いられる。
この手法はミニバッチを用いて計算されるノイズを含んだ勾配を利用する。
しかしこれにより生じる勾配の分散により、性能及び収束速度が低下する問題がある。
本論ではこうした分散を小さく抑える手法を提案する。
提案手法はより良い収束レートを持つ事を証明した。

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1