概要
XOR問題で、活性化関数を替えられる、プレイグランドを作ってみた。
写真
説明
XORなので、出力は、softmaxで2つ。
全結合層は、4つで、relu,tanh,sigmoid,maxoutを選択できる。
testボタンで、実行。
時間とロスと推定を表示。
やってみると、sigmoidは、使わない。自分なら、maxoutを使う。
tensorflowの活性化関数
maxoutが無い。
tf.nn.relu
tf.nn.relu6
tf.nn.crelu
tf.nn.elu
tf.nn.softplus
tf.nn.softsign
tf.nn.dropout
tf.nn.bias_add
tf.sigmoid
tf.tanh
成果物