背景
大学で人工知能の研究をしているものだが、前期が終わり後期からディープラーニングとニューラルネットワークの学習が始まるにあたり、何か基礎知識をつけたいと思い、オライリーの「ゼロから作るDeep Learning」を購入した。
その本
備忘録を兼ねて投稿しようと思う。
なお、投稿者はニューラルネットワーク及びディープラーニングの知識は0。
ディープラーニングとは...
前提知識
- パーセプトロン
- ニューラルネットワークの基本単位。複数の信号を元に、ある一つの結果を返すもの。なお、ニューラルネットワークはパーセプトロンの集合体であり、パーセプトロン自体がニューラルネットワークということではない。
- 活性化関数
- 閾値を境にして出力が切り替わる関数。「ステップ関数」や、「階段関数」とも呼ばれる。（ニューラルネットワークでは違うものが使われる。）上の画像で言うと、活性化関数は出力の段階で使用されることになる。
- シグモイド関数
- ニューラルネットワークでよく用いられる活性化関数の一つ。
- 回帰問題での出力層の活性化関数
- これには恒等関数というものが用いられる。一般的にこの関数は入力された信号に対して、何も変更を加えずにそのまま返す。
- 分類問題での出力層の活性化関数
- これにはソフトマックス関数というものが用いられる。
[参考資料](https://www.atmarkit.co.jp/ait/articles/2004/08/news016.html)
### 2020-9-13 追記 ニューラルネットワークにおける、出力層の活性化関数については、通常の活性化関数とは違うものが利用される。 ニューラルネットワークは、分類問題と回帰問題に用いることができるが、そのどちらも違った関数を利用している。
まとめ
ニューラルネットワークとは、パーセプトロンの集合体で、信号を変換する際に使われる活性化関数がシグモイド関数など、多岐に渡り、その変換された信号が別のパーセプトロンに行くと言うのが何度も続いたもの （あってるのだろうか...）
感想
初めてqiitaの記事を書いてみたが、初めてにしてはいい方なんじゃないか。
ただ、画像の挿入や、リストの使い方など、まだまだ不安な点は多い。これからブラッシュアップしていきたい。
また、ここは違うと言った指摘も随時受け付けております。その都度変更を加えて、いい記事が描けるように精進していきたいと思う。
これからよろしくお願いいたします。