今年はAIエージェントの年だとか言われながら、それ関連の情報少なくないですか。
AIがエージェントとなるためには世の中を認識しそれに対して行動しなければならず、そのためには世の中を認識するための世界モデルが必要なのですよね。
もちろんこういう講座も用意されているわけですが大人気ですが社会人はおいそれとは受講できないので、資料をまとめてみました。
- 「世界モデル」の日本語資料はまだまだ極めて少ない。
- 松尾研の講座のシラバスが公開されているので、その講座名、講師名を手がかりにプレゼン資料や動画を集めればそのものずばりではなくてもかなり近い方向性の勉強ができるのではと考えた。
1. 世界モデル概論 鈴木雅大
鈴木雅大氏の日本神経回路学会での発表。動画もYoutubeにあり。
- 内容
- 深層学習、深層生成学習、世界モデルの概論
- 対象
- 人工知能や深層学習をある程度知っている学生・研究者
2. 生成モデル基礎 飯山燈
- 直接の資料は見当たらず。下記書籍を参照するか、類似資料としては下記、NTT高橋氏の「Generative Models」
3. 深層生成モデル（VAE・拡散モデル） 大島佑太
- 大島氏の資料は見当たりませんが、同じく講師陣の谷口尚平私の資料「拡散モデルの数理」（VAEとの比較としてVAEの解説もあり）
4. シミュレーションとコンピュータグラフィックス 佐藤誠人
5. 強化学習基礎 高波亮介
- 高波氏の資料は見つかりませんが、同じく松尾研の今井翔太氏の強化学習の入門向け資料
6. 制御モデルとモデルベース強化学習 松嶋達也
直接の資料ではないが下記が比較的近いか
- 「AIのラボからロボティクスへ 東大松尾研究室のWRS2020パートナーロボットチャレンジへの挑戦」
- 第18回 LangRobo研究会：松嶋 達也先生 (東京大学)「AIのラボからロボティクスへ 東大松尾研究室における基盤モデルを活用した汎化性・適応可能性の高いロボットシステム開発」
- 松島氏の資料ではないですが、同じく松尾研の今井翔太氏の強化学習の資料
7. Transformer基礎（Transformerの基礎からVision Transformerまで） 髙城頌太
- 髙城氏の資料ではないですが、同じく松尾研のLLM講座の資料
- LLM講座2024年「Day10. LLMの分析と理論」（後半パート）
- Transformerの基礎
- LLM講座2024年「Day10. LLMの分析と理論」（後半パート）
- 奈良先端品川氏の資料。SSII2023 [TS1] Vision Transformerの歩みとこれから
8. 状態空間モデル 谷口尚平
- 状態空間モデルは時系列分析では資料が多々あるが、必ずしもそれだけではないのでちょうど良いのが今のところ見当たらず。
9. 状態表現学習 中野聡大
- 中野氏の資料は見つからないですが、同じく講師陣の松嶋達也氏の資料
10. 観測予測モデル 岩澤有祐
が近い？
11. 目的依存の表現学習と予測モデル 鈴木雅大
- 見当たらず。
12. 世界モデルの応用と発展 岩澤有祐、鈴木雅大、河野慎
- ここら辺になると講義資料よりレビュー論文などになるのかな？鈴木氏らによる世界モデルのレビュー
関連資料
- 関連の動画あり
- 深層学習関連の輪読会資料多数あり
https://www.docswell.com/s/DeepLearning2023/K1J78L-2023-10-12-135230
関連書籍
世界モデル
- 世界モデルそのものの書籍は知らず。AI入門的な本に近いことは書いてある場合はありますが。技術書で1章を割いているのは、下記生成 Deep Learning 第2版だけかも
生成AI（深層生成モデル）
-
生成 Deep Learning 第2版
- まずはこれ。概要解説とコード例あり。世界モデルの解説もあります。
-
深層学習 生成AIの基礎
- 理論について1冊にコンパクトにまとまっている和書はこれだけかも。
-
ゼロから作るDeep Learning ❺ ―生成モデル編
- コーディングで試したいならもちろん本書。
拡散モデル
-
拡散モデル データ生成技術の数理
- 私には難しい。深層学習 生成AIの基礎の次くらいに読むと良いか。
シミュレーションとコンピューターグラフィクス
- すみません。これらの分野の本はほとんど読んだことなく。
- 佐藤氏の講義資料の巻末に参考文献がありますので、それらを。
強化学習
-
ゼロから作るDeep Learning ❹ ―強化学習編
- ゼロから作るシリーズは間違い無いですね。まず動かしながら学ぶのが良いと思います。
-
強化学習 (機械学習プロフェッショナルシリーズ)
- Sutton強化学習（第2版）が定番ですがまだ読んでおらず。内容的には本書森村→Suttonの難易度らしいので、まずは本書を。
Transformer
-
ゼロから作るDeep Learning ❷ ―自然言語処理編
- 間違いのないゼロから作るシリーズですが本書は少し以前の本なのでTransformerについてはやや手薄か。
-
大規模言語モデル入門
- TransformerでできたLLMを操る、本ですけれど。
-
IT Text 自然言語処理の基礎
- Transformerというより自然言語処理のテキストですが、Transformerを知るなら本書の知識は必要だと思います。
Vision Transformer
-
Vision Transformer入門 (Computer Vision Library)
- 私は未読ですがそのものずばりの本書が評判が良いようです。
状態空間モデル
-
Rによるベイジアン動的線形モデル
- 私が読んだ中では本書が一番本格的。私は時系列分析として読んでいたので、制御的な意味だと類書が色々あると思います。カルマンフィルタとか。
状態表現学習、観測予測モデル、目的依存の表現学習と予測モデル
- 私が知らないだけですが書籍わからず。ロボット系とか漁れば良いのかな。
番外
脳科学
講座の中には明示ではないけれど、レビュー論文とかには書いてあって
自由エネルギー原理などの脳科学の考え方も世界モデルには取り入れられているらしいです。そこらへんも調べ始めていて、
に書いてます。