元々はグラフニューラルネットワークの勉強会で使った資料だが、重要なものや新しいものは更新していく予定
参考資料
- AAAI2020の理論チュートリアル、理論素養がないと若干ハードルが高いがGraph Signalなど重要な理論的なことが丁寧に書いてある：AAAI_tutorial_GNN
- スタンフォード大学のネットワーク解析ページ（チュートリアルが非常にいい）：Stanford Network Analysis Project
- GNNの研究をリードしてきた研究者の博士論文、教科書レベルとの評判。
- 論文集（Survey papersもあるので、最近の発展などを追うのにいい）：GitHub - thunlp/GNNPapers: Must-read papers on graph neural networks (GNN)
- グラフとその応用についてneo4jの方による紹介、ディープラーニングに特化せず、応用について全体を見渡しているのがよい：スライド、動画
- Yann LeCunの講演：YouTube
- GCNの著者によるブログ解説記事：Graph Convolutional Networks | Thomas Kipf | PhD Student @ University of Amsterdam
- まとめ：三部からなっていて、研究や理論の背景などがよくまとめられている
- KERNELの方による勉強会の資料：文献サーベイがよい
- 早い段階での日本語の解説記事（シリーズモノ）
- 会社の方による応用実験の資料
ハンズオン資料
-
とりあえず動かしてみる
DGL at a Glance — DGL 0.2 documentation -
グラフメッセージ伝搬でみるページランク
PageRank with DGL Message Passing — DGL 0.2 documentation -
モデルのチュートリアル
Model overview — DGL 0.2 documentation
- ローカルで環境構築しなくてもこちらのgoogle colabを試せる:
1_first.ipynb - Google ドライブ
面白そうな応用研究
- Pinterestのリコメンドシステム（大量なデータで学習を行ったものでA/BテストでKPIが３０％改善）: PinSage: A new graph convolutional neural network for web-scale recommender systems、PinSage: A new graph convolutional neural network for web-scale recommender systems
その他のリソース
- ナレッジグラフ：Wikidata
- ナレッジグラフの埋め込み：GitHub - facebookresearch/PyTorch-BigGraph: Software used for generating embeddings from large-scale graph-structured data.
- ポアンカレ埋め込み、Gensim
- ポアンカレ埋め込みの実装：GitHub - facebookresearch/poincare-embeddings: PyTorch implementation of the NIPS-17 paper "Poincaré Embeddings for Learning Hierarchical Representations"
dgl以外のライブラリ
-
chainerの化学用ライブラリ：
GitHub - pfnet-research/chainer-chemistry: Chainer Chemistry: A Library for Deep Learning in Biology and Chemistry, 化学、生物学分野のための深層学習ライブラリChainer Chemistry公開 | Preferred Research -
tensorflowの化学用ライブラリ
GitHub - deepchem/deepchem: Democratizing Deep-Learning for Drug Discovery, Quantum Chemistry, Materials Science and Biology -
pytorch geometric(dglの競合？ビルドはcuda10の方がすんなりいく、と思う)
GitHub - rusty1s/pytorch_geometric: Geometric Deep Learning Extension Library for PyTorch -
DeepMind提供、趣が少し違うが、元論文の最初の方はなぜグラフなのかについて説明してあって、一読の価値がある：GitHub - deepmind/graph_nets: Build Graph Nets in Tensorflow