再帰型ニューラルネットワーク (RNN)とは
内部に閉路をもつ時系列データの解析に適するニューラルネットワークのこと．
BPTT (BackPropagation Through-Time)
これまでに与えられた過去の情報が，新しく加わる情報に対してどのくらい重みを持っているのかを学習する．逆伝播する誤差も過去にさかのぼって反映する必要があるため，時間軸に沿って誤差を反映する．
CTC (Connectionist Temporal Classification)
音声処理に使われる手法．出力候補として音素に加えて空文字を追加することで，出力長と正解長の違いに対処する．
LSTM (Long Short-Term Memory)
勾配消失問題を解決するため，隠れ層の構造を変えた．
Bidirectional RNN
途中の時間情報が欠けていることで，過去と未来の2つのRNNを組み合わせて学習するモデルのこと．
Attention機構
「時間の重み」をネットワークへ組み込み，出力からみたときの各入力の重みを表す．
見るべき解説動画
数式を交えた解説動画
ハンズオンによる説明