LoginSignup
6
7

More than 5 years have passed since last update.

聴講メモ「エヌビディアが加速するディープラーニング ~ 進化するニューラルネットワークとその開発方法について~」

Posted at

日本ITU協会 第56回 情報通信研究会
https://www.ituaj.jp/?kouen=56th_ict

「エヌビディアが加速するディープラーニング ~ 進化するニューラルネットワークとその開発方法について~」
講師 : 村上真奈氏(NVIDIA ディープラーニングソリューションアーキテクト兼CUDAエンジニア)

資料とか、公開されないのかな……。似たやつがあった。http://www.slideshare.net/NVIDIAJapan/ss-61344653
ここで見つけた→ NVIDIA Deep Learning Day 2016 Spring の個人的まとめ

以下メモです:


1980年の第2次AIブームでは、シナプス→ニューロン→シナプス→ニューロン……の段数が3段くらい。
2016年の第3次AIブームでは、152段。

2012年に、フィードバック(Forward/Backword Propergation)をうまくやるアイデアが登場して段数が増えた。

最近の事例:
Netflix...リコメンドエンジンでお試し会員からの正会員率を上げる、退会率を下げる
Googleデータセンタ……ラックにセンサをつけて空調を120段階で管理し、電力量を4割削減
https://devblogs.nvidia.com/parallelforall/

ニューラルネットワークの構成によっていろいろなパターンがある。”CNN”=上流では特徴抽出のための畳み込み、下流では特徴に基づいた推論をさせる……など。
顔認識の例だと、学習データ1000万点、段数8段、パラメータ(シナプス?)数10億、で学習時間が1か月くらい。

CUDA用ライブラリとして、深層学習用のcuDNN, 密行列用のcuBLAS, 疎行列用のcuSPARSE、フーリエ変換用のcuFFT、グラフ解析用のnvGraphなどがある。
これらを利用するディープラーニングフレームワークがオープンソースで増えてきて手軽になった。たとえば:
Caffe(かふぇ) ... C++/Python/Matlab用。画像認識のサンプルが多い
http://cafe.berkleyvision.org/
Torch(とーち) ... Lua/C用。Facebookによる顔認識のサンプルが多い
http://torch.ch/
Theano(しあーの)、TensorFlow(てんそるふろー)、Chainer(ちぇいなー) ... Pythonなので改造しやすい。時系列や複雑系のサンプルが多い
http://deeplearning.net/software/theano/
http://tensorflow.org/
http://github.com/pfnet/chainer
http://github.com/hido/chainer-handson (Jupyter Notebook)

CNTK(Microsoft製) ... (資料にあるものの紹介はなかった)
https://cntk.codeplex.com/

NVIDIA DIGITS にあるDebianパッケージを使えばWeb経由で簡単に画像解析と物体検出を始められますよ!
http://developer.nvidia.com/digits
https://github.com/NVIDIA/DIGITS/tree/master/examples

自主学習用コンテンツ quikLABS
https://nvidia.qwiklab.com
AWSで試せるよ! 無料コンテンツもあるよ!
有料コンテンツは15クレジット=1200円くらいだよ!


メモここまで

6
7
3

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
6
7