[識別モデル]CNN
CNNの歴史
・1982年 ネオコグニトロン 福島邦彦
・1998年 LeNet ヤン・ルカン
・2012年 AlexNet ILSVRC トロント大学 ジェフリー・ヒントン(SuperVision)
・2014年 VGG ILSVRC Oxford大学
・2014年 GoogleNet ILSVRCで優勝したモデル・・・Inceptionモジュール
CNNの問題点
・[問題点１]畳み込み／プーリングの増加（深いネットワーク）だけではだめ
・[問題点２]層を深くすると計算量が増加、勾配消失
・[解決法１]小さなサイズの畳み込みフィルターを差し込み次元圧縮
・[解決法２]Inceptionモジュール
・[解決法３]ResNet・・・Skipconnection「層を飛び越えた結合」
転移学習
・巨大なネットワークをイチから学習することはない
・学習済みのネットワークがあればそれを用い新たに学習する必要なし
・ImageNetですでに学習済みモデルが公開
・学習済みネットワークを利用して新しいタスクの識別に活用すること＝＞転移学習
[識別モデル]RNN
強化学習
ただの強化学習
・Q学習(Q learning)
深層強化学習
・DQN(Deep Q-Network)・・・2013年 Deep Mind社 Deep Learning+強化学習
・Double DQN
・Dueling Network
・Categorical DQN
・Rainbow
深層強化学習の歴史
・2013年 Deep Mind社 DQN
・2015～2017年 Deep Mind社 AlphaGo
・2017年10月 Deep Mind社 AlphaGo Zero
[生成モデル]
その他
・画像認識精度競技会「ILSVRC(Imagenet Large Scale Visual Recognition Challenge)」
・ImageNet・・・自然画像認識研究のための研究用標準データセット
・MNIST・・・手書き文字画像認識研究のための研究用標準データセット