IGCV2: Interleaved Strucrured Sparse Convolutional Neural Networks
畳み込みカーネルの効率化を通した高効率なCNNを提案する。
構造化スパースカーネル、低ランクカーネル、低ランクカーネルの積を用いたカーネル表現に加えて、
構造化スパースカーネルの積は最近提案されてきているinterleaved group convolution (IGC)や
Xceptionのカーネルを理解するためのフレームワークとして注目されてきている。
本論ではIGCで構成するgroup convolutionは構造化スパースカーネルの積を用いて分解できる
事を利用する。
これにより、さらなるカーネルの余分を取り除く事が可能になる。
Image Inpainting for Irregular Holes Using Partial Convolutions
従来のDNNベースのimage inpainting手法は欠損した画像に対して通常の畳み込みを適用してきた。
この際、欠損された部分は平均値などで置き換えた形で前処理がされた。
しかしながらこうした手法はblurやcolor discrepancyなどの問題を生んだ。
本論ではこの問題に対応する手法としてpartial convolutionを提案する。
この手法では、陽に欠損情報を利用して、欠損していない部分のみを利用した畳み込みを行う。
本論はさらに深い層における特徴空間に対応した欠損情報を得るための手法をあわせて提案する。
Tempered Adversarial Networks
GANは現実的なサンプル生成のためのモデルとして優秀であるが、
その学習は困難である。
この困難さはGANを構成する２つのネットワークの間にある不均衡が
原因であると考えられる。
つまり、discriminatorはrealとfake双方のサンプルを用いて学習されるが、
generatorはfakeサンプルのみから学習される事である。
これは、real sampleが与えられた訓練データに制限される事に起因している。
本論ではこうした問題に対して、generatorにreal sampleに対してもコントロール
を与える事で解決する。
このコントロールを行うモジュールはlensの呼ぶ。
このlensモジュールの利用でreal samplesの特徴を少しずつ明らかにしていく形でdiscriminatorへ
提供し、これにより学習のバランスを取る。
lensの例としては、はじめにreal sampleへblurをかけるようにし、徐々にそれを取り除いていく
ような学習過程である。
提案するモジュールはまた、学習しているモデルの性能に合わせて自動的に調整がなされる。