Deep Structured Energy Based Models for Anomaly Detection, ICML2016
深層構造を持つenergy based model(EBM)を提案し、それによりデータ分布を直接学習して異常検知へ応用する。
提案するモデルはstatic, sequential, spatialデータに適用可能なEBMの構造を持たせられる。
Score matching法による最適化を利用する事でEBMとdenoising autoencoderを接続し、denoising autoencoderと同様の最適化を可能にし、従来のサンプリングベースの手法に頼る事なく最適化を行える。
エネルギー関数の観点から、妥当な異常検知指標を利用可能である。
あるいは再構成誤差に基づく異常検知指標も利用可能である。
Markov Latent Feature Models, ICML2016
逐次シーケンスで構築されていくような特徴に対するモデルとしてスパース潜在変数モデルであるmarkov latent feature model(MLFM)を提案する。
Indian buffet process等の従来手法は、各潜在状態間に条件付き独立を過程する事で得られるexchangability（de Finetti定理）を利用する事で効率的に学習を実現した。
本モデルでは特徴間に相関がある場合を考察する。
つまり、各状態は対応する潜在変数に関連付けられ、また２つのnull状態の間で抽出された特徴シーケンスは観測と関連付けられるとする。
このような確率過程を、提案するモデルは再帰的なマルコフ連鎖の混合モデルとして表現する。
このモデル表現を利用する事で、スパースコーディングにおいて相関する潜在変数を用いたモデルを実現する事ができる。
このモデルはパラメトリック、ノンパラメトリック双方で定義され、変分推論に基づく効率的な学習アルゴリズムも提案した。
Practical and Optimal LSH for Angular Distance, ArXiv
Angular distanceに関するlocality sensitive hashing(LSH)が存在する事を示し、その実用的なモデルを提案する。
理論的な保証が得られている手法、spherical LSH、は計算効率が悪く現実的ではない。
逆に実用的な手法、hyperplane LSH、は理論的な保証が悪いオーダーに留まるが、実際は良い性能を発揮しやすい。
本論ではこうした理論と実際のギャップを埋めるような最適な手法を提案する。
それはhyperplane LSHの改善により成り立つ。