LoginSignup
0
1

More than 3 years have passed since last update.

文献『AN ANALYSIS OF DEEP NEURAL NETWORK MODELS FOR PRACTICAL APPLICATIONS』を読む。

Last updated at Posted at 2019-05-15

目的

AlfredoCanziani&EugenioCulurciello,AdamPaszke.
AN ANALYSIS OF DEEP NEURAL NETWORK MODELS FOR PRACTICAL APPLICATIONS.
arXiv:1605.07678v4.

この文献は、以下で公開されている。
https://arxiv.org/pdf/1605.07678.pdf

ディープラーニングのモデルの処理量を知りたい場合がある。
処理量としては、G-Ops等で示されているのが、扱いやすい。
処理量が記載された文書やサイトは沢山あるが、どれが、語弊のない数値が書かれているか、判断つかないときがある。
少し、情報を集めたいと考えました。

 :pencil:まず、この文献は、沢山の情報があり、以下の方に役立つと思う。

   ・ディープラーニングのモデルの処理量(GOPSなど)を知りたい人

よく見る情報

下記の図をよく見る。
個人的には、いまの段階では、横軸の値だけが関心事ですが。

(この文献をよく見る理由は、沢山のモデルに関する情報があるため、
個別の情報も正しく、語弊のない記載になっていると期待できるから。)

(適宜、追記します。まずは、この文献の存在の紹介が主な意図です。)

図:引用
Figure 2: Top1 vs. operations, size ∝ parameters.

fig2.png

以下のページにて、updateされた情報が公開されている。
https://medium.com/@culurciello/analysis-of-deep-neural-networks-dcf398e71aae

引用:
update2.png

目分量で、グラフの値を読む。
結果は、以下のとおり。

model Gop 備考
MobileNet-v1 1.4 ※目分量の精度悪し
MobileNet-v2 0.7 ※目分量の精度悪し
AlexNet 2.2 ※目分量の精度悪し
GoogleNet 2.5 ※目分量の精度悪し
ResNet-50 8.0 ※目分量の精度悪し
VGG19 39 ※目分量の精度悪し
VGG19 31 ※目分量の精度悪し

まとめ

この文献は、よく見ます。
よく参照されているのではないでしょうか?
(どこで、この文献にたどり着いたのかは、忘れました。)

関連(本人)

DNNのモデル毎の処理量(GOP)をまとめる

良書 「GPUを支える技術 超並列ハードウェアの快進撃[技術基礎]」を読む

文献『From Model to FPGA: Software-Hardware Co-Design for Efficient Neural Network Acceleration』を読む

↓ 随分、後々の追加(2021/3/19)
深層学習。GopsとAccuracyの関係グラフ(2系統)。:tada:

今後

適宜、情報を足します。
コメントなどあれば、お願いします。:candy:

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1