ゼミサマリ : Weight Agnostic Neural Networks

概要

テーマ : NNの構造探索
スライドリンク : 追記予定
発表者 : ヘンリー
題名 : Weight Agnostic Neural Networks
Paperリンク : https://arxiv.org/abs/1906.04358
新規性 : 重みを学習しなくても、タスク(MNISTの分類など)を解けるNNの構造を、Evolution Strategyの一種(NEAT)で見つけた

着想

NNは学習を通じて重みを最適化するが、動物は生まれながらに(つまり学習せずに)敵を認識したり、泳いだりする能力を持っている。つまり「良い構造のNN」があれば重みはテキトーでもタスクが解けるのではないか?

実験の流れ

1：適当な特徴量を使って第一世代のmininal networkを何種類か作る
2：NNの全ての重みを{-2, -1, -0.5, 0.5, 1, 2}の6種のどれかにしてタスクを解く
3：6種それぞれの重みを用いた場合のパフォーマンスの良さ(平均、最大)と構造の簡潔さなどを元に(ヒューリスティックに)ランク付けする
4：ランク上位のNN構造を元に次世代のNN構造を作る(ノード間に活性化を入れたり、結合したり)
5：2~4を繰り返す

タスク

1：CartPoleSwingUp(強化学習の倒立振子)
2：BipedalWalker-v2(強化学習の二足歩行)
3：CarRacing-v0(強化学習の自動運転)
4：MNIST

結果

{-2, -1, -0.5, 0.5, 1, 2}の中で、最も良いパフォーマンスを出した際の重み1種類を、最終的にできたNN構造の全ての重みとして用いると、学習をしなくてもある程度のパフォーマンスが出せた

今後の展望

どうにかして探索空間を狭め、計算コストを抑えたい

参考リンク

解説：https://ai.googleblog.com/2019/08/exploring-weight-agnostic-neural.html
解説：https://weightagnostic.github.io/
実装：https://github.com/google/brain-tokyo-workshop/tree/master/WANNRelease