NYU(講師：Yann LeCunら）のDEEP LEARNINGの講座をながめてみる。

以下。
https://atcold.github.io/pytorch-Deep-Learning/
完全かどうかは不明だが、日本語にも対応している。

とりあえず、ざっと、1回みて、その後、少し丁寧にもう一度みる予定。
気づいたことなどをメモする。

まずは一巡目

Description

https://atcold.github.io/pytorch-Deep-Learning/
短文なので、引用する

This course concerns the latest techniques in deep learning and representation learning, focusing on supervised and unsupervised deep learning, embedding methods, metric learning, convolutional and recurrent nets, with applications to computer vision, natural language understanding, and speech recognition. The prerequisites include: DS-GA 1001 Intro to Data Science or a graduate-level machine learning course.

⇒　この講座は、比較的、最近の技術（the latest techniques）が含まれる。

representation learning

「representation learning」という言葉が出ている。このあたりを理解したいと考えていた。

Wikiによると、
https://en.wikipedia.org/wiki/Feature_learning

In machine learning, feature learning or representation learning is a set of techniques that allows a system to automatically discover the representations needed for feature detection or classification from raw data. This replaces manual feature engineering and allows a machine to both learn the features and use them to perform a specific task.

⇒　このあたりのことを、「representation learning」ということを理解した。

Motivation of Deep Learning, and Its History and Inspiration

以下などは、わりと最近の技術だと思う。

• Energy-based models
• Self-supervised learning and beyond

補足

https://ai-de-seikei.hatenablog.com/entry/2022/01/26/090649?_ga=2.40758880.374040184.1643155092-149886064.1642674423
『SimCLRって、Energy-Based Modelsというわけではないんですね。』
↑　この記事、参考になる。。。（なった）。

まとめ

特にありません。
まだ、入り口です。