Minibatch Size
minibatch sizeは学習中のリソースに影響を与える。
一般的な値
だいたいの場合minibatch sizeで使用する値は以下。
1,2,4,8,16,32,64,128,256,1024,2048
minibatch sizeが大きいほどメモリを多く消費する。
CNNの場合
Learning Rate(学習率)が同じならminibatch sizeが大きくなるとモデルの精度は低下する。
Learning Rate(学習率)を調整すればモデルの精度は低下しない。[1]
まとめ
minibatch sizeが小さすぎると学習の速度が遅くなる。minibatch sizeが大きすぎると多くのリソースを必要とすることになる。
32 - 256くらいの値をまず試してみるべし。