Mind the Gap: A Generative Approach to Interpretable Feature Selection and Extraction, NIPS2015
データのクラスタリングを扱う。
Mind the Gap model(MGM)と呼ばれるinterpretableな特徴抽出、選択モデルを提案する。
Interpretability criteriaを導入する事で、MGMはinterpretabilityに関するパラメータ、logical expressionによる表現とそれに伴う次元削減、と、distinguishable dimensions、複数クラスタ間を良く分離するような次元、の直接選択を同時に可能にする。
Barrier Frank-Wolfe for Marginal Inference, NIPS2015
MRFの最適化手法を提案する。
グラフ構造を木構造に近似して信念伝搬法で解くtree-reweighted(TRW)手法がある。
木構造制約はペアワイズ制約(local polytope)として課せられ、変分推論的にmarginal polytope制約として最適化する手法が提案されてきている。
そのための手法としてFrank-Wolfe methodを用いる方法もある。
しかし今回の問題を解くに際してはFrank-Wolfe methodはいくつか問題があり、例えば計算量の問題であったり、収束の問題であったりする。
本論ではそれら問題に対応するための修正されたFrank-Wolfe methodを提案し、その収束性も示した。
この手法はfeasible setの境界付近においてill-posedな挙動を示す場合に有用である。
A Universal Catalyst for First-Order Optimization, NIPS2015
Nesterovが提案したaccelerated proximal point algorithmに基づいて、新たなaccelerateされた１次オーダー最適化の一般的手法を提案する。
凸最適化問題に対して、選ばれた高速で解く事が可能な補助問題のシーケンスを解く事で近似最適化する。
この手法は勾配法を含む様々な最適化手法に適用可能であり、強凸性を持たないケースにも対応可能である。