#NIPS2015読み会に参加しました
Deep Learning を含む機械学習関連の国際学会NIPS2015
NIPS2015読み会
http://connpass.com/event/24620/
日時: 2016年1月20日
場所: 銀座松竹スクエア13F
[#nips_yomi](https://twitter.com/hashtag/nips_yomi?src=hash "#nips_yomi)
(NIPS概要)
比戸将平さん(Preferred Networks) [スライド]
NIPSについて、10年前はKernel法が主流だったが、いまはDeep Learningが主流である。
NIPSはどんなものが注目されているのか、概要を知る機会になる。
次回はバルセロナ。
Learning Continuous Control Policies by Stochastic Value Gradients
論文: http://papers.nips.cc/paper/5796-learning-continuous-control-policies-by-stochastic-value-gradients.pdf
藤田康博さん(Preferred Newtorks) [スライド]
- 自己紹介
強化学習やゲームAIをやってる。 - 論文概要
物理シミュレーションで様々なタスクを与えて、ニューラルネットを使って学習する。
虫が動く、ロボットアームがボールを動かす、チーターが走る、二足歩行する、など
https://www.youtube.com/watch?v=PYdL7bcn_cM
Markov Decision Process
報酬関数
報酬の和の期待値を最大化 - 価値観数
状態行動価値観数
(確率的)Bellman方程式 - 行動が連続値
DQNではダメ？→状態行動価値Q(s, a, θ)のaが連続値だとargmaxQが求められない - Policy Gradient Methods
- Likelihood Ratio Methods
スコア関数を使えば求まる
バリアンスが大きくなる - Deterministic Value Gradients
Backpropagationで価値観数の勾配を求める
決定的なBellman方程式ならRNNのようにできる
確率的な場合は？→Reparameterization Trickを使う - Stochastic Value Gradients
- アルゴリズム
SVG(∞)
SVG(1)
SVG(0) - まとめと質問
行動が離散的だと微分できない場合がある
従来法との違いは、gradientの計算の仕方
Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks
論文: http://arxiv.org/pdf/1506.05751v1.pdf
濱田晃一さん(DeNA)
- 自己紹介
理論物理、DeNAの機械学習、TokyoWebMining - Generative Adversarial Network (GAN)
生成器と識別器を戦わせて生成精度を向上させる
SGDで交互に学習 - Conditional Generative Adversarial Network (CGAN)
- Laplacian Pyramid of GAN (LAPGAN)
- Class Conditional LAPGAN (CCLAPGAN)
- Visual Turing Test
人に画像を見せて本物か生成画像か
40%本物と見間違う - Deep Convolutional GAN (DCGAN)
笑顔の男性-男性+女性=笑顔の女性
word2vecのようなことができる - その他の画像生成
Deep Visual Analogy Making
Hessian-free Optimization for Learning Deep Multidimensional Recurrent Neural Networks
論文: http://arxiv.org/pdf/1509.03475.pdf
瀬戸山幸大郎さん(早稲田大学) [スライド]
- 自己紹介
早稲田の学生、研究は音声合成、PFIのバイトは音声認識 - Agenda
MDRNN, Hessian-free for MDRNN, CTC
MDRNNは多次元の学習効率が良い
CTCと組み合わせるともっと良い
RNNとの違いは、隠れ層の帰管路が複数
Hessian-freeは、Hessianを計算しない
5層以上のMDRNNをHessian-free
CTCを凸近似することでMDRNNに組み込んで入出力長の違うデータに対応
手書き文字認識 - MDRNN
RNNが多次元になっただけ
Backward Passのnが増えた - LSDM
- Hierarchical Subsampling Netowrks
4方向×縦×横 - Hessian-free for MDRNN
Generalised Gauss Newton (GGN)
GGNで表せば、行列×ベクトルは簡単になる
GGNはある条件下でヘシアンを近似でき、出力層にソフトマックスを用いることで
$H_L$ は半正定値になるので、$G_{L○N}$ も半正定値になり、結果、L○Nが凸になる。 - CTC
HMMと同じでforward backwardを使う。
最終的に、凸部と非凸部の合成関数になる。
CTCのパスは複数の経路が考えられるが、ほとんどの場合同じ経路をたどる。
非凸部は、凸関数に近似できるので、凸な損失関数のGNNを考えられる。
しかしGNNはコストが大きいので、ヘシアンフリーで計算する。
Sparse PCA via Bipartite Matching
論文: http://arxiv.org/pdf/1508.00625.pdf
加藤公一さん(シルバーエッグテクノロジー) [スライド]
- 自己紹介
レコメンドシステム、自然言語
数学的な論文を選びました。 - 概要
スパースな主成分分析 - Sparse PCA
- Multi-component Sparse PCA
- 現状のアルゴリズム
主成分を見つけたら、元データから割り引いて次の主成分を見つける。 - 本論文のアルゴリズム
bipartie matchinを用いた近似アルゴリズム
PTAS -> Additive PTAS - まとめ
理論上、改善できることを示した。
実験でも改善できていることを示した。
Semi-Supervised Learning with Ladder Networks
論文: http://arxiv.org/pdf/1507.02672.pdf
松元叡一さん(Preferred Newtorks) [スライド]
- 自己紹介
ロボット、画像の生成 - アジェンダ
半教師あり真相学習の最先端
Ladder Network - 半教師あり学習(semi-supervised learning)
ラベル無しデータもあればよくなる - mnistをやる
100個のラベル付きデータと残りはラベルなしが何万件 - 半教師あり学習のアイディア
- 似ているデータは同じラベル（次元の呪い？）
- きれいな中間表示（確率分布）
- 分離面をデータから遠ざける（仮ラベルをふる、ノイズを入れる）
- mnistの精度
| 100 labels | 60000(all) | |
|---|---|---|
| Feed-forward NN | 25.8% | 1.18% |
| ... | ||
| Virtual adversal training | 2.12% | 0.64% |
| Ladder network (Original) | 1.06% | 0.61% |
| Ladder network (AMLP) | 1.00% | 0.67% |
| Auxiliary deep generative model | 0.96% | - |
- Auxiliary deep denerative model
なぜこれでうまくいくのか？ - Virtual Adversarial Training
実用上とてもよい - Ladder network (Original, AMLP)
Noiseを加えて、Decoderを作る
中間層もつなぐ、そして中間層にもNoiseを加える
NoiseはDrop outに似てる？かも
一種の工芸品みたいなもの（笑） - github
https://github.com/mattya/chainer-semi-supervised
Automatic Variational Inference in Stan
論文: http://papers.nips.cc/paper/5758-automatic-variational-inference-in-stan.pdf
柏野雄太さん(バクフー) [スライド]
- 自己紹介
宇宙物理を研究してました。
pythonの本とか書いてます。 - ADVI in Stan
すごい人たちが書いてます。
変分ベイズの自動化できるのでは？
結論からいうと、ADVIを使うと速い - 何ができて何ができてないか？
（このあと家庭の事情で退席したため聴講できず...）
End-To-End Memory Networks
論文: http://arxiv.org/abs/1503.08895
海野裕也さん(Preferrd Infrastructure) [スライド]
- (Twitterから内容を想像)
文書ベクトルと単語ベクトルの内積をとって softmax を文の重要度とする
記憶用ベクトルと重要度ベクトルで重み付き和を線形変換する
期待する解とのcross entropyでlossを得る→これをbackward
Memory Networksを系列文字の予測の言語モデルにも適用できるらしい
Chainer 実装の説明があったらしい
まとめ（感想）
NIPSでは Deep Learning 界隈がにぎやか
手書き文字認識は急速に進化してるっぽい
今後さらに言語モデルへの応用の可能性を感じる
やっぱ Chainer 使ってみたほうがいいかな？