深層学習（後編 1）：「Section2：LSTM」

LSTM(Long short-term memory)は、RNN(Recurrent Neural Network)の拡張として1995年に登場した、時系列データ(sequential data)に対するモデルのことを指す。
LSTMはRNNの中間層のユニットをLSTM blockと呼ばれるメモリと3つのゲートを持つブロックに置き換えることで実現されている。
メモリ：勾配消失及び勾配爆発の解決方法として、勾配を1とした自己ループ（CEC）
ゲート：入力ゲート、忘却ゲート、出力ゲート
またパラメータ数が多くなり、計算負荷が大きくなる課題がある。