概要
機械学習の昨今の話題についてまとめる
対照学習
- 対照学習(Contrastive Learning)は、自己教師あり表現学習のうち有効なアプローチの一つ
- 対照学習について理論的な理解が進んでいるが、学習された表現のクラスターを特徴づける方法については探求の余地がある。
- 「対照学習によって事前学習されたエンコーダーモデルから出力される特徴ベクトルのクラスタは、どのように特徴付けられるのか?」
- クラスターの特徴付けの研究の過程で生まれたKCL(Kernel Contrastive Learning)というフレームワークが注目されている。(https://arxiv.org/pdf/2304.00395)