LoginSignup
14
13

More than 1 year has passed since last update.

対照学習とは (Contrastive Learning)

Last updated at Posted at 2021-10-10

対照学習とは

対照学習(Contrastive Learning)は、自己教師あり学習の一つ(機械学習の手法の一つ)で、ラベル付けを行うことなく、データ同士を比較する仕組み用いて、膨大なデータをそのまま学習できる自己教師あり学習の一つです。
似たデータは近くに、異なるデータは遠くになるように特徴量を学習します。

1.png

コンピュータービジョン、自然言語処理(NLP)領域で活用が期待されています。代表的な手法に、SimCLR、PCL、BYOLなどがあります。

※詳細な学習方法は論文の5 Trainingをご参考ください。

2.png

画像引用元:https://arxiv.org/pdf/2011.00362.pdf

AI Academy Bootcamp

6ヶ月35,000円にてチャットで質問し放題の環境で、機械学習やデータ分析が学べるサービスを提供しております。
数十名在籍しているデータサイエンティストや機械学習エンジニアに質問し放題の環境でデータ分析、統計、機械学習、SQL等が学べます。AI人材に必要なスキルを効率よく体系的に身に付けたい方は是非ご検討ください!
bootcamp_ad_72ppi.png
https://aiacademy.jp/bootcamp

自己教師あり学習とは

ここで突然出てきた自己教師あり学習(Self-supervised Learning)の解説も合わせて行います。

自己教師あり学習とは、Self-supervised Learningの頭文字をとったSSLと略されることもあり、ラベル無しデータを用いた教師なし学習の一種です。

自己教師あり学習は、データ自身から独自のラベルを機械的に作り、学ばせるようなタスクです。そのため、我々はラベルを用意する必要がありません。
ディープラーニングを含む機械学習は教師あり学習、教師なし学習、強化学習の3つに大別されることが一般的ですが、現実社会の問題を解決するにあたって、ラベル付きのデータを大量に用意するのは、骨が折れます。

そこで、ディープラーニングの研究開発が進むにつれ、ラベルが無いデータを用いたディープラーニングの手法が模索されてきています。

自己教師あり学習では、このラベル付けを機械的に行えることから、注目を浴びています。(分類としては教師無し学習の1種になります。)

対照学習論文

対照学習並びに自己教師あり学習に関して説明しましたが、下記から対照学習の論文にアクセスすることが出来ますので、是非チェックしてみてください。

最後に

最後までお読み頂きありがとうございます。
月額980円で、Pythonを中心に機械学習、データサイエンス、WEB開発、SQL、スクレイピング、Julia、R、Gitなどが学べる「AI Academy」を運営しております。無料登録で100近いコンテンツも見れますので、これから機械学習の勉強をしたい方是非ご活用頂けると幸いです!

AI Academy Bootcamp

6ヶ月35,000円にてチャットで質問し放題の環境で、機械学習やデータ分析が学べるサービスを提供しております。
数十名在籍しているデータサイエンティストや機械学習エンジニアに質問し放題の環境でデータ分析、統計、機械学習、SQL等が学べます。AI人材に必要なスキルを効率よく体系的に身に付けたい方は是非ご検討ください!
bootcamp_ad_72ppi.png
https://aiacademy.jp/bootcamp

14
13
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
14
13