背景
単なる学習の記録です。
自作モジュールを作っていて、init関数も分かるようになってきました。ただ、まだまだPythonのクラスの機能を引き出せている気がしません。現代の高度な技術（？）なように思える自動微分を実装出来たらある程度使いこなせてる感が出るような気がしています。
目的
自動微分の実装を通して、深層学習の理解を深めます。
方法
まずは簡単な実装から行いたいです。PyTorchのチュートリアルにそれっぽい動画がありましたので、これを基に理解を深めます。
結果
自動微分を自作してみる.ipynb(単に動画からGitHubに飛んだ先のコードをコピペしただけです。動画の概要欄にあるリンクの方が参考になると思います。)
考察
微分を解析的な方法で実装出来ました。numpyを使って実装しています。複数の入力を一気に計算する為だと思いますが、表記してある記号とその意味を一致させるのに時間がかかりました。例えば、xと表記してある物にも一つのデータを表しているのか複数のデータを表しているのか考えることがあります。
課題
正直、課題は書ききれない程あるのですが、次はこれを基に「Colab：ニューラルネットワークでANDゲートを解く.ipynb」のTensorFlowの部分を普通のPythonで書き換えようと思います。