YuriCat posted at Jan 24, 2021
DeepSpeedのインストール&ZeRO-Offload利用法
巨大なニューラルネットを学習するZeRO-Offloadと、それを含むDeepSpeedライブラリが話題だったので使ってみました。 (2021/1/24時点)
本家ドキュメン ...
- 1
Kedbreak posted at Feb 25, 2020
BERTなどの大規模のモデルの課題
leのチャットボット Meena :26 億
Microsoft の T-NLG:170 億
出典:Microsoft Open Sources ZeRO and DeepSpeed
- 38
- 1
newton posted at Jul 15, 2018
Tumblrランキングサイトの作り方
8823dsn
ak47
appbank
at1980independent
atm09td
dannnao
deepspeed
do-nothing
dotnuke
exp ...
- 3
Search syntax
- title:Git
- Containing "Git" in title
- body:Ruby
- Containing "Ruby" in body
- code:function
- Containing "function" in code
- tag:Rails
- Tagged with "Rails"
- user:qiita
- Created by qiita
- stocks:>3
- more than 3 stocked
- created:>2020-12-27
- Created after 2020-12-27
- updated:>2020-12
- Updated after 2020-12-01
- -tag:Ruby
- Not containing "tag:Ruby"
- Ruby OR Rails
- Containing "Ruby" or "Rails"