Tracking Emerges by Colorizing Videos
ラベルなしビデオを教師なし学習する事で、visual trackingを実現する手法を提案する。
時間方向の色情報の一貫性を利用する事で、参照フレームの色をコピーする事を通した
グレースケールビデオの色付けタスクをモデルに学習させる。
この学習を通して視覚的の領域のトラッキングをモデルは実現できるようになる。
このモデルはoptical flowよりも高性能を実現できる。
[Gradient Acceleration in Activation Functions][https://arxiv.org/abs/1806.09783]
Dropoutはニューロン同士のco-adaptationを防ぐ事により
過剰適合を防ぐ効果があると考えられてきた。
本論ではDropoutの効果に別の理由つけを提案する。
それは、dropoutは非線形活性化関数のsaturation areaに
入力に対する反応をより押し込むような勾配のaccelerationを
行っている、というものである。
この仮説に基づき、saturation areaへの押し込みを加速させる
gradient acceleration in activation function (GAAF)を提案し、
その効果を確かめた。
Guided evolutionary strategies: escaping the curse of dimensionality in random search
多くの機械学習における最適化でsurrogate gradientがtrue gradientの代わりに
用いられてきた。
本論では同様にしてrandom searchに関するsurrogate gradientを提案し、
gradient方向に張られる部分空間への探索を行う事で計算効率を改善する。
gradientは得られたサンプルに対してガウス分布でモデル化しながら計算を
行う。