メモ書きですが共有します。
前回：Inevitable ja Night インターネットの次に来るもの

Inevitable ja night 2

第2回 AI とビジネスに起こる不可避な流れ
2017年11月14日（火）19:00 〜 22:00
ハッシュタグ： #inevitable2017

対談：ゲームチェンジャーか、バズワードか、AI、機械学習のビジネスインパクトを探る

スライド

音声認識

現状でも、ちゃんと喋れば精度100％
曖昧な言葉の認識が課題だが、
今はわかってないコツがわかれば、一気に精度は高まる

Googleテクノロジーアップデート

機械学習

データセット
機械学習モデル
期待する出力

→ 最初は間違う
→ 間違いをフィードバックすると、間違わずに答えられるようになる。

非構造化データ（音声、絵、テキスト）を扱える
クラウドコンピューティング

Google Photo : ラベル付
Inbox : 自動返答メッセージ生成
Google Home：発話、音声認識

Googleにおける機械学習の活用事例: Googleのエンジニアは皆何らかの形で機械学習を利用している。

ビジネス活用

Googleの機械学習モデルをそのまま活用: 機械学習の知識無しで活用できる
API
Vision API
Speech API
Natural Language API
Translation API
Video Inteligence API
独自の機械学習モデルを開発: 機械学習の知識が必要
TensorFlow
Machine Learning Engine

TensorFlow

機械学習モデルの設定、最適化。

Googleのプロダクト開発で幅広く使われている
活発なオープンソースコミュニティ
主要なプラットフォームで動作する

活発なオープンソースコミュニティ

ユーザー数の多さ（スター数74000）
開発速度の速さ（1000人以上、週200コミット）
TensorFlow User Groupに入ると日本語で質問回答が得られる
TensorFlow Dev Summit 2017

課題

どこから機械学習をするためのコンピュートリソースを得るのか

データ
Google Cloud Storageなど
コンピュートリソース
Cloud ML Engine
TensorFlowで書いたコードを送信すると、自動で立ち上がる。
適切なモデル
TensorFlow

Cloud ML Engine

フルマネージドサービス
大規模分散トレーニング with GPUs
ハイパーパラメータチューニングの自動化
機械学習モデルのデプロイ / 自動スケール

事例

AUCNET

車画像を基にした車種分類タスクを自動化。80%削減。
1枚15分 → 3分（年間3万件）
TensorFlowユーザーグループに入り、共同研究。
社内の機械学習エンジニアの育成

Rettyにおける機械学習の活用事例

Retty: 実名型グルメサービス
友達などの信頼できる人からお店を探せる

取り組み年表

最初はスタートアップだったのでエンジニア3人ぐらいだった。

2015: ビッグデータ解析開始
2015半ば - 2016: 機械学習実験（写真データでの実験）
2016 - 2017: 機械学習基盤の自社開発（口コミデータの活用を始める）
2017: 機械学習本格活用

2016事例1

CNNの使いみちが多い。

CNNによる写真分類
料理写真の自動発見

2016事例2

画像解像度を上げる

2017前半事例3

口コミ分析
Doc2Vecによるユーザのベクトル化

詳細はこちら

「Retty 機械学習日経」

本格活用（2017）

すべてを統合・本格活用し、コンテンツの質向上に注力

写真の解像度を上げられたので、大きく表示できるように。
特定ニーズへの、適切でわかりやすいコンテンツの提供。
ロングテール部分へのアプローチ。
渋谷カフェ電源
タイトル表記
属性表示

Retty機械学習基盤

秋葉原で購入
エンタープライズ・スパコンとの連携

Rettyは積極採用中です

RoomClip

部屋の写真を投稿してシェア
この1年で他人の部屋を何回見た？
他の人はどうやっているのか？
誰かの事例って役に立ちますよね…
その穴、RoomClipが埋めます

現状

機械学習・深層学習のツールは出揃ってきた。
登ってどうする？
プロダクトに活かせるのか？
ユーザー、クライアントの課題を解決できるのか？

どの程度のコストがかかるのか？

機械学習の難しさ

プロダクトに活かすときの困難さ

どういう意味の出力なのかいまいちわかってない
→ 知識問題
なんとなく意味はわかるが、どういうタイミングで使ってみればいいかわからない
→ 最低限の知識と知恵と工夫問題

ガチの知識問題

割と根深い

最低限の知識と知恵と工夫問題

表面的な部分を使って便利にしていく

部屋全体の画像かどうかを判定する

サービスをする上で重要
目視 → 自動化したい
overview: 1かどうかをAPIで出力
機械学習で0か1かを判定するだけ

画像 → AmazonS3 →Amazon Lambda → AmazonRDS

深層学習もそうなのか？

ガチの知識と工夫で大変
インテリアスタイルの判定機を作ろうとした
ナチュラル系
ホワイト
見る人が見たら〜系と分類できる

定義しづらいが、なんとなく概念として存在している
例：ブルックリンスタイル

→ ルールベースのモデル化がなかなか困難

さらに新しい概念をどんどん産まれる

ブルックリンスタイル → 男前インテリア

20スタイル1000枚の画像を学習
→ 適合率35％失敗。

色々大学の研究室と連携しているうちに、
一部恣意的な改善をしていることがわかってきた
＝完璧なロジックはない！

ガチを攻めるよりも、乗りこなす。
大学が選んだモデルを使う。Keras。TensorFlow

Kerasを選択する理由

画像読み込み → 学習 → モデル生成というステップだけに集中するため
→ 学習までの手続きをできるだけ減らす
→ 学習中のlogや学習後のmodelをシンプルに取得するため

転移学習を選択する理由

データ構築と応用のみに集中するため
→ 層の追加・改善をできるだけ考えない
→ 最終層の評価関数と最適化手法くらいに留める
→ 学習しなければ諦めが付くという状態にしておく

再びスタイル判定チャレンジ

少し工夫して、「リビング」の画像でスタイル判定
ところで、リビングをどうやって選ぼうか。
じゃあ、まずそのモデルを作ろう

リビング判定

根性で9つの場所画像を集める
転移学習してみる
学習済みモデルXception
最適化関数adam
損失関数
活性化関数 softmax

9クラス場所分類

― 18時間ぐらいで正答率9割

わりといい

リビングでスタイル判定

ユーザーがナチュラルスタイルだと言い張っているリビングを収集
転移学習

4クラススタイル分類

ブルックリンスタイル
男前インテリア ← 人間でも定義が曖昧
ナチュラルインテリア
カリフォルニアスタイル

18時間で正答率9割

ブルックリンスタイルと男前インテリアをちょっと迷ったりする

人間と同じ。
サービスに活かすにはもう1ステップ必要

その他

同じテイストの写真を勧める
同じようなテイストでユーザーをグルーピングし、リコメンドしたり出来る
事前にタグ付けの提案ができる
など

浅はかながら、転移学習を用いてそれっぽいことはできた
書けられるコストとしてもこの辺がちょうどいい感じ
データをもう少し整備すれば、プロダクトで使える可能性は高い

問題点

データの恣意性について
リビングの定義って何？問題
誰かの判断をもしているだけ
AlphaGo Zeroの衝撃（without human data）

まとめ

機械学習はツールを使って、知恵と工夫でなんとかできる
深層学習であってももはやできる
一部に関しては深い知識を追いかけていいが、深層学習に関しては慎重に
データが重要になるケースが多いため、早めにデータ整理はしておくべき人間がやっていることを代替するケースが入り口としてやりやすい。
Keras with Cloud ML Engine最強っぽいよ
エンジニア欲しいよ

全体まとめ

国光さんのツイート引用。

AIは手段であって目的ではない。AIを使って何かをするのではなく、解決すべき課題を明確にしてその解決策として適切なAIを活用する。AIを使うことが目的化してはいけない