ソフトマックス関数は、複数の数値の入力があったときに、それらを合計が1になるような確率分布に変換するための関数です。

特に、機械学習、中でも分類問題において非常に重要な役割を果たします。例えば、画像が「猫」「犬」「鳥」のどれであるかをAIが予測する際に、それぞれの選択肢がどのくらいの確率で正しいのかを示すために使われます。

簡単に言うと、いくつかある選択肢の中から「どれが一番それっぽいか」を確率で教えてくれる魔法の変換器、ということです！✨

ソフトマックス関数がなぜ必要なのか？ 🤔

AIが分類問題を解くとき、最終的には各クラス（カテゴリ）に対する「確信度」のような数値を計算します。しかし、これらの数値はそのままでは確率ではありません。例えば、ある入力に対して「猫: 2.5, 犬: 1.0, 鳥: -0.5」のような値が出ることがあります。

このような値は：

ソフトマックス関数は、これらの問題を解決し、直感的に理解しやすい確率値に変換してくれます。

ソフトマックス関数の計算式 🔢

ソフトマックス関数は、入力された各数値 $z_i$ （$ i $ は各クラスのインデックス）に対して、以下の計算を行います。

$$\sigma(\mathbf{z})i = \frac{e^{z_i}}{\sum{j=1}^{K} e^{z_j}}$$

ここで：

指数関数で変換: まず、各入力値 $z_i$ を $e^{z_i}$ と計算します。これにより、全ての値が正の数になり、大きい値はさらに大きく、小さい値はさらに小さくなる傾向が強まります。
合計で正規化: 次に、計算された全ての $e^{z_j}$ の合計を求め、各 $e^{z_i}$ をその合計で割ります。これにより、全ての出力値が0から1の間に収まり、かつ合計が1になります。

ソフトマックス関数は、AIが「これは〇〇である可能性が最も高い」と判断し、その確信度を確率として示すための、非常に強力で汎用的なツールです。分類問題のほとんどで、最終出力層として利用されています。