Squeeze-and-Excitation Networks
CNNでは、空間とチャンネル方向に展開する受容体を用いた
特徴抽出を用いる。
CNNの表現力を向上させるための試みとしては、従来
空間的な特徴抽出能力を底上げする努力がなされてきた。
一方本論ではチャンネル方向へフォーカスし、
新たにSqueeze-and-Excitation (SE)構造を提案する。
SEはチャンネル単位の表現、あるいはチャンネル間の依存関係を陽に抽出する
squeeze, excitation関数を導入する。
データに対して適応的に特徴抽出を行う事を可能にする。
このSEを多段に積み上げたSENetは大きく性能向上が可能である。
Efficient ConvNet for Real-time Semantic Segmentation
リアルタイムのsegmentation手法を新たに提案する。
新たに提案するネットワーク構造として、
residual networkとfactorized convolutionを組み合わせた構造を
提案する。
ここではresidual networkはnon-bottleneck構造を用い、
またfactorized convolutionは１次元の畳み込み処理を示す。
Dual Path Networks
Higher order recurrent network (HORNN)の観点より、
Residual netとDense netの等価性を示し、
一方でresidual netは特徴の再利用を、densnetは新たな特徴の
探索を行うネットワークである事を示した。
本論では、この二つの特徴を組み合わせたネットワークを提案する。