195
256

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

機械学習のデータの集め方

Last updated at Posted at 2016-05-31

データを集める問題については、最近はwebで記事を書かれているのが増えてきています。
検索して、調べていって、学びとっていきたいところです。

参考になりそうな記事のリンク集です。

手入力

伝え聞くところによると、機械学習のためのデータは、手作業で入力データを作成していることが多いと聞きます。
また、目的がはっきりしており、その作業の投資の結果を回収する見通しがある場合には、多数の人を雇って
入力データを手作業で継続的に追加して改良を重ねていると聞きます。

ネガティブサンプルの重要性

歩行者検出の分野では、歩行者を含まない道路や町並みの画像がとても重要になります。
車載カメラの場合には、車両から見える画角でのデータであることが重要です。
歩行者検出をBoostingで学習させる場合には、人を画像に含まない大量の画像が必要です。
Cascade型の識別器では、後段になればなるほど、紛らわしい画像の比率が高まってきます。
そのようなときに、人画像を見つけ出したのを、negativeとして使ってしまうと、検出器の性能が著しく低下します。
Cascade型の識別器では、後段になればなるほど、学習した結果が、学習させたデータセット(positive画像、negative画像ともに)に依存性が強まったものになりがちです。(追記:今どきBoostingを使う人は少ないか。ネガティブサンプルが重要なことは、変わりない。)

 例えば、犬の顔の検出器を作ろうとする場合、既存の検出器で検出できる分だけの犬の顔を集めても、検出器の性能に役立つ画像になるかどうかは確かではありません。柴犬とブルドッグでは、顔の形状が違いすぎます。柴犬の顔だけを集めてもブルドッグの顔を検出できるようになるかは疑わしいと考えます。ある顔向きで検出できたとして、別の顔向きで検出できるとは限りません。ですから、既存の検出器で検出できた画像を用いて、検出器の性能を向上させようとするのは危険です。犬の顔を検出できたシーンの次の時刻の追跡結果を用いるなどの方法で、既存検出器で検出できない画像を用いることができるようにするなどの工夫をすべきです。(このような状況が深層学習ではどうなのかは、私は知りたいところです。)
 深層学習では、横顔を元にして正面顔のデータベースと比較して人物の認証をできると主張されています。

真横を向いた顔でも、サングラスやマスクでも高い照合率
パナソニック、ディープラーニングで世界最高水準の顔照合を実現

多数の種類のオブジェクトを動画から検出するにはYOLOを使うのもよさそうだ。誤検出があっても人力で選びなおす前提ならば、検出速度が高いほうが便利だ。

少ない画像で学習できる検出器

dlibにあるHOG+SVMの検出器は、とても少ない画像のpositiveデータでobjectの検出器ができます。Haar Casecadeの検出器の場合とはとても違っているのが驚きです。

dlibで機械学習して物体検出する

使える既存検出器の利用

 ハードウェアの開発のために学習データを集めるときには、ソフトウェエア版の検出器を使ってデータを集めるというのもありです。

参考:
機械学習のデータセットの重要性

CIFAR-10, CIFAR-100はラベル付されたサイズが32x32のカラー画像8000万枚のデータセットです。
[Python]CIFAR-10, CIFAR-100のデータを読み込む方法

追記:

Model Zoo にさまざまな学習済みモデルがあります。それを使って検出器を作れば、その学習済みの特性の範囲で、画像がサンプリングできて、アノテーションを自動生成することができます。

  • model zooにある既存の検出器を使って、画像に対するアノテーションファイルを自動生成できるようにする。
  • その検出器のしきい値を緩めに設定して、元々の学習の範囲から少しだけはみ出した画像群も収集する。
  • 収集したデータから、自分の作りたい検出器の検出対象になるべきものをピックアップして、自分のルールでアノテーションをつけていきます。
  • 自動生成したアノテーションデータ、自分のルールで拡張した学習範囲のデータとの両方を用いて、学習プログラムを動作させる。
  • 学習した結果を利用して、画像のサンプリングと自動アノテーションを繰り返す。
  • 再度学習を行う。
    このようにして、データを集めていくと、自分の作りたい検出器を作るための雛形の学習データを集めていくことができます。

###人(歩行者)関係

segmentationのしてある歩行者のデータベースです。non-commercial の目的においてだけ利用できます。歩行者の学習・評価に有益です。

###顔関係

Face Database

FDDB: Face Detection Data Set and Benchmark

nagetive dataset として
http://cocodataset.org/#home

link集
Computer Vision Datasets

CVonline: Image Databases

Yet Another Computer Vision Index To Datasets (YACVID)

60 Facial Recognition Databases

論文の中で利用している学習データを調べてみよう。

論文の中では、その実装で学習しているデータの由来がたいがい書いてある。だから、そういったのを読み進めていくと、データにたどり着く。


追記:

顔検出や人検出の分野では、それなりに精度の出るオープンソースの実装が存在している。
だから、自分の目的のために学習データセット、検出器を作るために、それを利用しない手はない。自分の目的に近いデータの比率を学習データを広げていけば、自分の目的をカバーする検出器に近づく可能性がたかい。

SlideShare SSII2018TS: 大規模深層学習

機械学習データの集め方2

機械学習のためのデータを収集する各段階の考え方
出現頻度のまま学習データの比率にするのは得策ではない。
機械学習のデータセットはどう失われるか
ずぼらな人間が実験データを管理する方法

195
256
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
195
256

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?