はじめに

ゼロつく第2章の「パーセプトロン」に続いて、いよいよ本格的なAIの入口である「第3章：ニューラルネットワーク」の復習を終えたので、学んだことをまとめてみました。

参考書籍
『ゼロから作るDeep Learning ーPythonで学ぶディープラーニングの理論と実装』
著者：斎藤　康毅

第3章でやったこと：パーセプトロンからネットワークへ

第2章で学んだ「パーセプトロン」は、シンプルな判断は得意ですが、人間が手動で重みを決めなくてはいけない、という限界がありました。第3章では、その限界を突破して、AIが「自分で判断する力」を持つための土台を学習しました。

ここが一番の驚きでした。なぜステップ関数（0か1）じゃダメなのか。それは、「AIが少しずつ反省するためには、なだらかな坂道が必要だから」です。

シグモイド関数： 0から1の間をなだらかに動く関数。これのおかげで、AIは「0.001だけ正解に近づいた」という微小な手応えを感じ取れるようになります。
ReLU関数： 0以下は切り捨て、0より上はそのまま通す。シンプルだけど、深い層になっても学習が止まらない魔法の関数です。

ニューラルネットワークは、裏側で膨大な掛け算と足し算をしています。
1つずつ計算していたら日が暮れてしまいますが、NumPyの多次元配列を使うことで、数千個の計算を「ひとかたまり」として一瞬で処理できる爽快感を知りました。

AIが何をしたいかによって、最後に見せる形を変える必要があることも学びました。

分類問題（数字の判別など：） Softmax関数を使います。出力の合計が1.0（100%）になるので、「これは80%の確率で『5』です！」と確率で答えを出してくれます。
回帰問題（数値の予測など）： 恒等関数を使います。計算結果をそのまま出します。

第3章を終えて、AIが「どうやって予測しているのか」の仕組みは分かりました。でも、今の段階では「誰かが用意してくれた正解の重み」を使っているだけです。
いよいよ第4章からは、AIが自分で間違いに気づき、学習するフェーズに入ります。
第3章の内容を土台に、さらに知識を深めていこうと思います。