Pepperくんが司会してましたｗ
Cloud Vision API and Tensorflow
The Datacenter as a Computer
一つはネットワーク
一般的なネットワーク機器は使ってない
Google自家製
海底ケーブルもGoogleで引いてる
Jupiter Network
40G ports
10G x 100K = 1Pbps total
ヤバイ
独自のコンテナ技術
Borg
VM使ってない
ベクトル演算、行列演算をめっちゃやってる
Inceptionという画像認識のニューラルネットワーク
40段の行列演算
DeepLearningはGoogleの中では実用段階
社内で今めっちゃ使われてる
Cloud Vision API
ディープラーニングの技術を外側にも提供しようとしてみた
使う側はML,DLのことよく知らんでも使えるAPI
レスポンスはJSONで返ってくる
作り笑いは判別してる
物体検知
雰囲気とかシチュエーションとかも判別してくれる。
OCRもいける
Tensorflow
Cloud Vision APIは学習しなくてもいいAPI。
逆に言うと学習させることができない
自分で学習させたい場合は、Tensorflow
第1世代 DistBelief
第2世代 Tensorflow
Tensor = Vector, Matrix(行列)の次に来るもの
多次元配列
データフロー
ML,DLに特化したフレームワークではなく、HPC。
High Performance Computing Framework
多次元配列の演算を高速に行うための汎用的なライブラリ
ビジュアライズツールもあります。
分散学習
ひたすら行列演算してすげー解析しないといけない
GPUをぶん回してやってる。
ただし、1台で。
MSもフレームワーク出してる。
CNTK。
4台並べてプチ学習したらTensorflowに勝ったらしい。
Denso IT Lab
TSUBAME2 96GPU使った
Prefred Newtorks + Sakura
これからすげーの作ろうとしてる
Google
社内で分散でTensorflowを動かしてる
数年先を行ってます。
10台でやるんじゃなくて、50台でやると4倍の速度差が出る
Distributed Tensorflowは近々公開予定
ただ、自分らでそれを使っても早くならん。
GCPのJupiter Networkを使えば早くできる
いつか出るかも知れない
TensorFlowを使ってゲームAIを作る
Tensorflowを使ってカーリングの局面評価関数を学習した
カーリングのルールは教えていない。
カーリングの画像を学習させてるだけ。
これで局面を判断させてる
機械学習のマジな話でだいぶついていけてなかった…
Tensorflowで会話AIを作ってみた
チャットロボット
ゲームのNPCとかにも活用できるらしい
会話AIの種類
- 辞書型
- パターンに合わないとおかしな感じになる
- ひたすら辞書の数が重要
- ログ型
- ユーザーのインプットをログとして取っといてそのまま返す
- 人間っぽい振る舞いをする
- 如何に会話を取るかが重要
- マルコフ型
- 出現した単語の次に最も出現しそうな単語で文章を生成する
- 確立で文章生成してるだけなので、意味不明になることも
これらは人工無能というやつ
無能だから悪いって分けではない
ロボット自体がその言葉の意味を考えていない。
会話さえ成り立てばそれ以外の知的活動は行わない。
人工知能は言葉の意味や文脈を理解して知的行動を行う。
要するに空気読む
今回のAI
ニューラル言語モデルを用いた単語埋め込み
文字列をベクトル演算可能にする
Sequence to Sequence Model
TensorFlowのチュートリアル
言葉をモデル化して時系列で表すことができる
Twitterをインプットにして、学習させる
今後
- 単語辞書を生成して形態素解析の精度を上げる
- 入力データのクレンジング
- 短文データの対話corpus生成
- 学習手法の改良
- 収束速度を高めるためにAdam砲を採用
- 教科学習と相性が良い？
まとめ
TensorFlow使うとコードの量が少なくて済む