In-Place Activated BatchNorm for Memory-Optimized Training of DNNs
従来のbatchnorm + activation layerをより効率的に実現可能な構造として
In-place activated batch normalization (inplaceabn)を提案する。
２つの層をつなげた事により、中間表現を持つ必要がなくし、
またforward処理の結果を逆変換してbackward処理に必要な情報を抽出する
事で、最大５０％までメモリ使用量を低減する事に成功した。
また一般に用いられるcheckpointing手法がinplaceabnと同等の計算効率を
得られる事を示す。
Deep Interactive Evolution
本論ではGANとinteractive evolutionary computation (IEC)を組み合わせた手法を提案する。
IECは人からのフィードバックを受けながら新たなサンプル生成を行う手法で、
一般的に人が設計した特徴空間上において生成が行われる。
一方GANは現実的なサンプルを作成する事が可能であるが、基本的にはランダムサンプリング
を利用した生成のため、その生成規則をコントロールできない。
本論における主張は、GANを用いてある特定のドメインに関する学習をした場合、
そのモデルはコンパクトかつロバストなgenotype-to-phenotype mappingを実現していると考えられる。
このようなモデルを学習させる事で、その潜在変数空間上でIECを行う事が可能になる。
Generating Instance Segmentation Annotation by Geometry-guided GAN
Instance segmentationのためのデータラベル作成は高コストである。
本論では、3D scanning, physical reasoning, GANの手法を君合わせた
Geometry-guided GAN (GeoGAN)を用いる事で低コストなラベル付け手法を提案する。
この手法は主にindoor環境に対するラベル付けに効果を発揮する。
この手法は3D object scanningにより得たobject/background modelを用いて、
異なった視点からの画像を幾何的なground truth情報とともに生成する。
生成された画像はGeoGANによりrefineされ、より現実的な
画像として生成される。
GeoGANの学習時には得られている幾何的なground truth情報を用いる。