PyTorch Dev Con 2019講演のタイムライン

概要

PyTorch 1.3リリースに伴うPyTorch Dev Con 2019講演(2019/10/10)のタイムラインです。
(補足)気が向いたら追記していきます。

• スケジュール
• (PyTorch 1.3リリースノート)Mobile Support, Named Tensors, Quantization, Type Promotion and many more

講演1

• PyTorch Dev Con

• 0:00 Welcome
• 0:02 Keynote(基調講演)
  • 開発者数(1200)、成長率(50%)、コミュニティ参加者数(22K)
  • 研究論文でも良く使われているPyTorch
  • いろんな企業で使われているPyTorch
• 0:16 PyTorch 1.3 Deep Dive
  • 0:16 新機能紹介
    • NAMED TENSOR
    • CAPTUM 将来的には、TensorBoard等への組み込みも考えている。
    • QUANTIZATION
  • 0:27 NAMED TENSOR AND TYPE PROMOTION
  • 0:36 PyTorch JIT
  • 0:46 Quantization
  • 0:56 ONNX (Microsoft)
    • ONNXの生成フロー
    • ONNX開発の今後の予定
      • Opset 11の完全対応など
  • 1:00 mixed precision (NVIDIA)
  • 1:06 PyTorch DataLoading (MIT CSAIL)

講演2

• [PyTorch Dev Con Take 2] (https://www.facebook.com/pytorch/videos/783738105413646/)

• 0:01 PyTorch 1.3 Deep Dive
  • 0:01 PyTorch DataLoading (MIT CSAIL)
• 0:05 New Libraries & Tools
  • 0:05 LINEAR ALGEBRA (CMU)
    • 2次元テンソルを複数まとめた(Baching)3次元テンソルでの一括線形演算(Native Batching)が、かなりの関数で出来るようになった。これにより、GPUでの演算を効率化できる。線形行列演算のbmmの他の関数への展開ともいえる。
  • 0:17 MODEL INTERPRETABILITY
    • Captumの説明
  • 0:25 Object Detection
    • Detectron2の説明
  • 0:36 SPEECH RECOGNITION
• 0:43 Cloud Tooling
  • 0:43 Cloud TPU
• 1:05 Summer Hackathon Projects
  • 1:08 (Winner) TorchMeta
• 1:16 PyTorch in Research
  • 1:16 Neural Lander Yisong Yue ドローンの制御(強化学習)
  • 1:27 stanfordnlp Yuhao Zhang　言語ライブラリ
  • 1:36 Paper with Code (ROBERT STOJNIC)
    • すべてのオープンソースモデルのベンチマーク (Benchmarking Every Open Source Model) を行うsotabench.comの紹介
  • 1:46 OpenNMT/HarvardNLP Sasha Rush コード一覧
  • 1:57 休憩
• 2:11 Secure & Private AI
  • 2:11 Privacy Preseving API
    • Secure and Private AI
      byFacebook AI
  • 2:27 Crypten
• 2:38 PyTorch in Industry
  • 2:38 self driving problem (Uber)
  • 2:52 Autopilot (Tesla)
  • 3:00 AUDIO AI (Dolby)
  • 3:03 In Microsoft
  • 3:08 AUDIO AI (Dolby)
• 3:26 Panel
• 3:59 Closing