More than 3 years have passed since last update.

機械学習に関する個人的なメモとリンク集②（DeepLearning編）

Last updated at 2020-03-22Posted at 2020-03-17

はじめに

何をするにあたってもゼロからできることは限られています。
「巨人の肩の上に立つ」という言葉もありますが、先人の知恵として参考になる記事を活用して、レベルアップを図りたいものです。

機械学習に関する個人的なメモとリンク集①（機械学習編）
機械学習に関する個人的なメモとリンク集②（DeepLearning編）
[機械学習に関する個人的なメモとリンク集③（BI・見える化編）]
(https://qiita.com/CraveOwl/items/7846abccbbaebed6ce63)

DeepLearning

DeepLearningは、Tensorflowを中心に色々と勉強はする（した）のですが、構造化データを使うのが主な小売りではあまり使い道がなく。
結局、時間が掛かる割には機械学習（Scikit-learnでできるレベル）と精度が変わらない・勝てないレベルなんですよね。もちろん、もっと上手くニューラルネットワークを作ると違うのかもしれませんが。
ですので、Tensorflow2.xになってからは、情報が追えていません。今後勉強しないと。

「お客様の声」とかで、自然言語処理を使ってみたりはしたいですね。。。

機械学習（ニューラルネットワーク）モデル

ニューラルネットワークのモデルのバリエーション

CNN

RNN

バッチノーマライゼーション・バックプロパゲーション

半教師あり学習

強化学習

強化学習入門

転移学習

Tensorflow

Tensorflow1.x関連

Tensorflowの活用事例

自然言語処理

形態素解析

自然言語は、数値のような構造化されたデータでないために、構造化することが重要。
特に日本語の場合は、英語等と異なり単語の切れ目が明確でないため、どこまでを１つの単語と見做すのかといった問題を解決するために、形態素解析が行われる。

JUMAN+;

形態素解析のライブラリは、JUMAN++を利用
他にMecabやJanomeといったライブラリもあるが、それらに比べてJUMAN++は遅いけど正確性が高い

Mecab

予測モデル構築

ナイーブベイズ

RNN

Character-Level CNN

機械学習の世界で、画像等の分類で有名なCNN（畳み込みニューラルネットワーク）を、自然言語処理にも対応する様に用いた手法。

自然言語処理なら、前後の関係性が重要になるため、RNN（再帰型ニューラルネットワーク）だろうと言われているが、Twitterレベルの文字数制限であれば、CNNでも充分使い物になるらしい。
形態素解析→単語レベルでのCNN（Word-Level CNN）と、単純に文字で分けて行うCNN（Character-Level CNN）がある。