ゼロから作るDeep Learning 学習メモ

シグモイド関数

シグモイド関数は機械学習やニューラルネットワークに使用される。主な役割としては入力された値を0から1の間に変換すること。

• シグモイド関数の式
  $$
  \text{sigmoid}(x) = \frac{1}{1 + e^{-x}}
  $$

def sigmoid(x):
    return 1 / (1 + np.exp(-x))

非線形であり幅広く使われている。

シグモイド関数を使う理由

1.出力が確率的な意味を持つ:シグモイド関数は出力を0から1の範囲を取り、その値は確率として解釈することができる。分類問題に使える。
2.勾配が計算しやすい:シグモイド関数の微分は簡単で、勾配降下法などの最適化アルゴリズムにおいて重要。

まとめ

シグモイド関数の出力は確率的な意味を持ち勾配の計算も容易にできる活性化関数。