機械学習
MachineLearning
論文読み

機械学習論文読みメモ_102

Conditional Image Generation with PixelCNN Decoders
PixelCNNに基づいた条件付き画像生成手法を提案する.
このモデルはベクトルで表現可能な任意の情報で条件付けが可能である.
例えばImageNetで与えられているクラスラベルで条件付けした場合に,
それに関連した物体を生成することが可能になる.
また今まで見たことのない顔画像で条件付けした場合には,
その顔に関して異なった表現,ポーズ,イルミネーションの画像が生成される.
従来のPixelRNNと比較してLSTMであるようなGate構造を取り入れたCNNを今回用いた
事によりRNNに頼る事なく高性能を達成した.

Variational Dropout Sparsifies Deep Neural Networks
Dropoutのベイズ版であるvariational dropoutについて考える.
元々variational dropoutは,variational lower boundに対してparameterization trickを
用いてガウスノイズを持つ微分可能なモデルでモデル化した時に,それにより推定される
サンプル毎損失の共分散が全体損失の分散へ有意に寄与する事から,その共分散がゼロ
となるようのモデルを利用するlocal reparameterizationを用いるアイデアに基づく.
Dropoutでも似たように確率的に0掛けのノイズを与える手法になっているが,
このノイズ連続値的に扱い事前分布や変分損失を定義する事でベイズ的な解釈をする.
本論では,この時のdropout rateが不明である場合に,
Evidence variational lower boundを最適化する過程で導出可能である事を示す.
結果得られるdeep networkはスパース化されたものが自然と現れてくる事となる.
この現象はempirical bayesに対してautomatic relevance determinationを適用した
場合と似た現象である.
これによりモデルの圧縮が精度を落とさずに可能になる.

A Unified Multi-scale Deep Convolutional Neural Network for Fast Object Detection, ECCV2016
高速なマルチスケールの物体検出手法としてmulti-scale CNNを提案する.
このモデルはproposalネットワークとdetectionネットワークの2つから成り立つ.
Proposalネットワーク内の異なった層からdetectionを行い,それによりマルチスケールのdetectionを実現する.