Go to Qiita Advent Calendar 2024 Top
LoginSignup
3
4

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 5 years have passed since last update.

@wakame1367

Coursera DeepLearning Course3 Structuring Machine Learning Projects Week2 学習メモ

Last updated at Posted at 2018-01-22

随時更新中

はじめに

  • Week2で学習すること
  • エラー分析（Error Analysis）
  • 天井分析(Ceiling Analysis)
  • 転移学習(Tranfer Learning)
  • マルチタスク学習(Multi-task Learning)
  • End-to-End Learning

Error Analysis

Carrying Out Error Analysis

エラー分析、天井分析についてはCoursera MachineLearning Course Week11でも言及されている。
詳しくは下記リンクが詳しい。
Coursera MachineLearning Course Week11 Application Example: Photo OCR
Coursera Machine Learning Week11 人工的なデータ生成と天井分析
Coursera Machine Learning (11): 写真の光学文字認識 (Photo OCR)

MachineLearningコースでは画像から文字を認識するシステム(Photo OCR)を構築する際
テキスト検出、文字分割、文字認識とそれぞれの**パフォーマンスの上限(天井)**を見積り、どの程度改善できるかで注力する時間、人力をかけるかの優先度を決めるという話だった。

今回は猫画像の分類器を例にあげ、分類器の精度改善手順について説明している。
例えば、精度90%の猫分類器が完成した場合を考える。10%の誤認識したケースを見てみるとどうも犬と猫を間違えたことがわかったとする。

  • エラー分析

  • DevSetから100枚の画像を取り出す

  • 犬と判別した画像を数える

  • 100枚中5枚であった場合

  • 5%の誤認識率、誤認識率全体(10%)からみると0.5%

  • 100枚中50枚であった場合

  • 50%の誤認識率、誤認識率全体（10%）からみると5%

後者の場合改善したほうが効果が高そうだと言える。

さらにエラーを分析すると、100枚の画像内に以下のような誤認識要因があった。

  • 猫を犬と誤認識
  • 大型のネコ科の動物(ライオン、豹など)への誤認識(Great Cats)
  • もやがかかった画像の誤認識(Blurry Images)
  • Instagramのフィルターがかかった画像の誤認識(Instagram)

それらの枚数を数え、図にまとめると以下のようになった。

この結果からBluurに注力したほうが効率良く精度を改善できそうだとわかる。
ただし、Bluuryの誤認識への対応にかなり時間がかかりそうだという見通しがあれば
GreatCatsの誤認識に切り替えるべき。

Cleaning Up Incorrectly Labelled Data

訓練データセットにラベルミスが含まれた場合

ディープラーニングアルゴリズムは堅牢であるためラベルミスはただちに影響はない。

DeepLearning Algorizm quite robust to random errors in the training set.

Devlopmentセットにラベルミスが含まれた場合

テストデータセットにラベルミスが含まれた場合

Build First System Quickly, Then Iterate

今回のテーマはタイトルの通り**「素早く実装して、評価してそれを繰り返す」**
タスクは考えればたくさんあるがまずは以下の手順でシステムを構築する。

  1. Dev/TestSetとメトリクスを用意する
  • 最終到達点を決める
  1. システムをできるだけ早く実装
  • TrainingSetを用意、学習させる
  • DevSetを使ってパラメータの調整
  • TestSetを使ってパフォーマンスを評価
  1. ErrorAnalysis、システムを改良する
  • Bias、Varianceであるかを調べ、次のステップに優先順位をつける

これらを早く繰り返す。

Mismatched training and dev/test set

Training and Testing on Different Distributions

Bias and Variance With Mismatched Data

Addressing Data Mismatch

Learning from multiple tasks

Transfer Learning

転移学習とは既に学習済みのモデルを利用して別のラベルの予測に利用する手法のこと。両モデルの低次元で共有可能な画像のエッジ検出、カーブ検出などをそのまま利用するという考え方。
（エッジ検出と説明しやすくするために言ったが具体的に何を再利用しているか、なぜうまくいっているかはよくわかっていない）
転移学習を行う目的は動画での例に挙げられていたX線写真などの収集するのが難しい・特殊な環境でしか収集できない画像や音声などを学習に用いるため。また、転移学習を行う上で注意点がある。

  • 動画では猫判別器から放射線診断へ転移学習させたように同種(画像なら画像)のモデルでなくてはならない
  • モデルはそのまま利用するが出力層の構成を変える必要がある
  • 既存の出力層の重みをランダムに再度初期化し、新しい訓練データを使って学習し直す
  • 訓練データが少ない場合、出力層のみを再学習し(FineTuning)、多い場合は全層を学習し直す(PreTuning)

参考

転移学習：機械学習の次のフロンティアへの招待

Multitask Learning

マルチタスク学習は主に物体検出に用いられる、例えば自動運転で使われる車載カメラ、画像内に存在する交通標識や車、歩行者などの複数のオブジェクトを認識する必要があるためこの技術が用いられる。

  • マルチタスク学習を使う場合気をつける点
  • 転移学習のように下層部分で共通のエッジ、カーブ等を学習する
  • データセットサイズはそれぞれのタスクごとに同じくらいにする
  • 複数タスクへ対応するためニューラルネットワークの構造を大きくする

参考

Facebook、Deep learningベースのコンピュータビジョン物体検出アルゴリズム「Detectron」をオープンソース化。活用した研究論文も多数公開済み
Github - facebookresearch/Detectron
Facebook open sources Detectron

What is end-to-end deep learning?

End-to-End学習とは端つまり入力と出力だけ渡して、途中で発生する処理全てを学習してしまうというもの。
OCRを例に挙げると、入力の画像から途中の処理を細かいタスクに分け最終的に文字認識に到るという構造が
一般的、しかしEnd-to-End学習では中間の処理も全て学習させる。
注意点としてデータセットがたくさん必要になる点、逆に言うとデータセットが少ないなら今までの手法を使えばよい。
end-to-end_learning.png

  • End-to-End学習がよく使われる分野
  • 音声翻訳
  • 自動運転のステアリング
  • 機械翻訳
  • 画像合成

Whether to Use End-To-End Deep Learning

あとがき

Andrew先生はCourse3でしきりに言及されているがどれくらいそのタスクに時間をかけられるのか
という疑問にノウハウを紹介することで答えていると思った。

3
4
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
3
4

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?