Unsupervised Real-to-Virtual Domain Unification for End-to-End Highway Driving
visionベースのend to endな自動運転モデルは、理解が難しく、また性能も高くない。
一方、中間表現をもたせた場合は、例えばsemantic segmentationやobject detectionの
学習データが必要になり高コスト化してしまう。
また生の画像データはタスクに不必要な詳細情報がノイズとして乗ってくる。
加えてdomain adaptationの問題も存在している。
本論ではこれら問題に対応するための手法としてdomain unificationを提案する。
この手法は現実のデータをvirtual simulationのdomain上におけるcanonical representationへ
変換する。
この変換はunsupervisedに学習される。
これによりvirtual domainでシミュレーションにより得られるラベル情報活用しやすくできる。
MINE: MUTUAL INFORMATION NEURAL ESTIMATION
本論では高次元変数間の相互情報量はneural networkとstochastic gradient descentを
用いる事で計算可能である事を示す。
提案手法はMutual Information Neural Estimator (MINE)と呼ばれ、
サンプルサイズと次元数に対して線形スケールである。
MINEは一貫してbackpropagationが適用可能である。
MINEは相互情報量の下界をneural networkでモデル化し
その下界に関して最適化を行う。
Concrete Dropout
DropoutはCVやRLのタスクにおいて不確かさのある推定を行う場合に実用的なツールである。
しかし最適な性能を得るためにはそのdropout rateの調整が大切である。
しかしそうしたパラメータ探索は特にRLの文脈では大きなコストとなる。
本論ではdropoutの亜種としてConcrete dropoutを提案する。
Concrete dropoutはbayesian deep learningの研究成果を利用し
従来離散的なマスキングが行われるdropoutの連続化緩和を行う。
この緩和を行う事で、学習によってdropout rateを最適化する事が可能になる。