要約

random {vertical, holizontal} flip を使うべきかをOptunaで探索してみた
3層MLP+MNISTの場合、共に不要という直感にあう結果になった
サンプルコードはgithubにて公開した

モチベーション

Optunaを使って何か作ってみたかった。

大体以上ですべてなのですが少しだけ補足します。
OptunaのMLPの層数を探索するサンプルを眺めていた時に、AutoAugmentのことを思い出しました。(AutoAugmentの解説はこちらが簡潔でわかりやすかったです。)
Optuna公開からしばらくたちましたが画像認識の前処理探索に使った話をきかない(Qiitaにはなさそう)ので自分で作ってみました。

実行と結果

サンプルを実行すると最終的に以下のような結果がでてきます。

$ python minimum_autoaugment.py
(途中の出力を省略)
$ python FrozenTrial(trial_id=4, state=<TrialState.COMPLETE: 1>, 
value=0.02066851265822789, datetime_start=datetime.datetime(2019, 3, 20, 9, 
54, 27, 523348), datetime_complete=datetime.datetime(2019, 3, 20, 9, 56, 6, 
612511), params={'vertical flip': False, 'horizontal flip': False}, 
user_attrs={'main/loss': 0.03885125317600872, 'main/accuracy': 
0.9896055437100213, 'validation/main/loss': 0.06722574303799038, 
'validation/main/accuracy': 0.9793314873417721, 'epoch': 10, 'iteration': 
4688, 'elapsed_time': 98.81312308297493}, system_attrs={}, 
intermediate_values={}, params_in_internal_repr={'vertical flip': 1, 
'horizontal flip': 1})

params は一番良かったときのパラメータ、user_attrsは一番良かった時のログレポートです。

作成したもの

githubにて公開しています。
~~私が実装をさぼった~~コンセプト確認のためのプロトタイプですので、以下の点は要改善かなと思っています。~~この記事がうけたらやります。~~

GPUを使っていない
MNISTを使うようハードコードしてある
MLPを使うようにハードコートしてある
探索できるaugmentationが少ない

まとめ

画像認識における前処理方法をOptunaで探索するサンプルアプリを作成しました。
random flipの要否を3層MLP+MNISTの場合で検証し、不要という直感にあう結果が得られました。
サンプルコードはgithubにて公開しています。