この記事の目的
ミニマックス最適とは確率的最適化の世界では常識のように目にするが（その意味について語られた文献があまりにも少ないので，このワードについてまとめたい．
ミニマックスとは
コトバンクの説明が分かりやすかったのでそちらを引用する．
2,考えられる最大限の損失を最小限に抑えようとするゲームの手。
このことから，機械学習に置き換えると，”考えられる最大の損失関数の値を最小に抑えようとする手法”と言えるかもしれない．（理解が足りなくて間違っているかも．）
ミニマックス最適とは
推定量$\hat{f}$がminimax最適ならば
$\max _ { \theta \in \Theta } \overline { L } _ { \theta } ( \hat { f } ) = \min_{\check{f}_{推定量}} \max _ { \theta \in \Theta } \overline { L } _ { \theta } ( \hat { f } )$
を満たす．
青本の確率的最適化（ｐ89）によれば
（ミニマックス最適とは）”「関数値と勾配を用いたどのような確率的最適化手法」にたいしても（定数倍を除いて）負けることはない．という性質持ちます．”
とある．
参考文献
「統計的学習理論チュートリアル: 基礎から応用まで」
http://ibisml.org/archive/ibis2012/ibis2012-suzuki.pdf
最後に
ちっとも分からない．．． 誰か教えて