参考
https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html?m=1
ニューラルネットモデル設計自動化に向けての論文が今年も出るのかな？
従来進化的アルゴリズムと強化学習アルゴリズムでモデルを生成してた
ハイパラの調整であればhyperoptやKerasに特化したhyperasなどで調整を多少自動化できる。
https://github.com/hyperopt/hyperopt
https://github.com/maxpumperla/hyperas
今回の手法はAutoMLと呼ぶらしい。
コントローラニューラルネットは、特定のタスクの品質について訓練され評価される「子」モデルアーキテクチャを提案。
そのフィードバックは、次のラウンドのために提案を改善する方法をコントローラに通知するために使用。
このプロセスを何千回も繰り返すことで、新しいアーキテクチャーの生成、テスト、そのフィードバックをコントローラに与えて学習。
画像データセットと言語データセットのどちらでもうまくいったそうな。
従来手法のneatで作られたモデルでも似たように一見どう言う意味があるのかわからない計算グラフになっていた。
モデルの調整も大変な作業ではあるけども、個人的には前処理用の自動化モデルを研究して欲しい。
#参考
https://arxiv.org/abs/1703.01041
https://arxiv.org/abs/1611.01578