はじめに
RNNについての分かりやすいチュートリアルとして、TensorFlowのRNNを基本的なモデルで試すでも触れられていた、Peter's notesのHow to implement a recurrent neural network Part1を翻訳しました。
翻訳するにあたり、日本語にすべきか、英単語のままにすべきか悩むところが多かったです。
訳の誤りや分かりづらいところございましたら、アドバイス頂けると嬉しいです。
(なお、Peterさんには翻訳・アップロードの許諾を頂いてます。)
チュートリアルの内容
簡単なRNNをPythonで実装していきます。
入力データとして、10回にわたって、0または1の数字を取得し、取得した数字を記憶しながら、最終的にその合計値を返す、という簡単なモデルをRNNで実装していきます。
- RNNの基礎
- BPTT法
- 勾配爆発、勾配消失
- Rprop
について学ぶことができます。
おわりに
Thanks,Peter!
Tutorial 翻訳
出典:How to implement a recurrent neural network Part1