はじめに
ハードウェアエンジニアとして前職ではCPUを作っていた。
大学の頃、ディープラーニングが流行る前は機械学習が使われており、
自分はk-NN、k meansをハードウェアで低電力・高速に動かすエッジ向けの専用SoCの研究をしていた。
興味はあったがディープラーニングについてはあまり知らないので、
この機会に勉強して個人的に満足するための記事を書く。
業務とは全く関係ない^^
詳しい人と仲良くなりたい^^
参考資料：
ゼロから作るDeep Learning
実装
参考資料を読んで章ごとに実装してみる。
手元で気軽に動かしたい人はColaboratoryを使ってみるといいかもしれない。
1. イントロ
2. パーセプトロン
3. ニューラルネットワーク
4. ニューラルネットワークの学習
5. 誤差逆伝播法
6. 学習テクニック
7. CNN
読み終わったが時間的にまとめるの間に合わず5章で力尽きた
今後やりたいこと
最後に、AI用のハードウェアに関する余談を書いてみた。
ただの趣味として今後やりたいこと(随時リンク追加していく)
- 残りの章、ハイパーパラメータの最適化について色々実験してみる
- ハードウェア化に関する論文を読む、なんなら自分でハードウェアアーキ考える
- GPUでNNを動かしてみる
- いろんなライブラリを使ってkaggleの問題解いてみる
- 最適化問題について、ハードウェア的なソリューション（DAU、D-WAVEなど）も含めて学ぶ
- 統計検定2級は受けたので、次は準1級を受ける