シリーズ前後5つ
- まだ
- まだ
- まだ
- Day001 : Botterまでの道のり（LSTMについてぼんやり理解する）
- Day002 : Botterまでの道のり（使っているライブラリのメモ）
- Day003 : Botterまでの道のり（PyTorchのCONV2Dを理解する） <- 今ここ
- まだ
- まだ
- まだ
- まだ
- まだ
動機
モデルをどうやって作ろうかなと思ったときに，まずなんとなくでも理解する必要があると思って・・・。
シリーズ全体が200記事くらい書ければB級Botterにはなれるはず・・・。
CONV2Dについて
例えば初期化するときに
self.conv1 = nn.Conv2d(1,16,3)
ってあるとするじゃないですか。
公式ページを確認すると,
torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros', device=None, dtype=None)
out(N_i ,C_{\mathrm{out}_j})=bias(C_{\mathrm{out}_j})+\sum_{k=0}^{C_{\mathrm{in}}-1} weight(C_{\mathrm{out}_j} ,k) ⋆ input(N_i ,k)
みたいな数式も出てきて
torch.nn.Conv2dは第一引数から順に
-
入力のチャンネル数
-
出力のチャンネル数
-
カーネルのサイズ
-
stride 畳み込みの適用間隔
-
padding 入力に適用されるパディングの量を制御する。文字列 {'valid', 'same'} あるいは int のタプルで、 両側に適用される暗黙のパディングの量を指定
-
dilation カーネルポイント間の間隔を制御する。à trousアルゴリズムとしても知られているらしい。これを説明するのは難しいらしく、このリンク先には、dilationが何をするのかを視覚化した素晴らしい図があるとのこと。わからん。
-
group 入力と出力の接続を制御する。in_channels と out_channels はともにグループで分割可能である必要がある。
-
groups = 1 は，すべての入力がすべての出力に畳み込まれる。
-
groups = 2 は，2つのConv層を並べて、それぞれが半分の入力チャンネルを見て半分の出力チャンネルを生成し、その後に両者を連結することと同じになります。はい！わからん！
-
groups= in_channels は，各入力チャンネルは、それぞれのフィルターセットで畳み込まれる。出力サイズは，出力チャネル/入力チャネル
となるらしいですが，
self.conv1 = nn.Conv2d(1,16,3)
self.conv1 = nn.Conv2d(16,32,3)
となったときに最後Linearで結合しますよね？
これ計算できるらしいんですけど，まったくイミフ！！！
torch.nn.Linear(in_features, out_features, bias=True, device=None, dtype=None)
- in_features – 各入力サンプルの大きさ
- out_features – 各出力サンプルの大きさ
- bias – Falseに設定すると、レイヤーは加算バイアスを学習しない。デフォルトは True
入力されたデータに線形変換を適用するようですが，
y = xA^T + b
待て待てm手
yなんてどこにもないし，x A T Bも出てこないぞ・・・。
（書いてて気づいたけど，これ内積求めてんのね・・・）
聖杯きたこれー
これ見てください。
めっちゃわかりやすい。
ありがとうございます。
PyTrochにおける
MaxPool2d(2, 2)
の答えがありました。
上記ページからの引用です。
公式にも書いてあるじゃんしたの方に・・・。
OUT = \frac{IN + 2 * padding - dilation * (kernel_size - 1) -1}{stride} + 1
っていうのをひたすら計算していけばよいのですね！
例題
画像サイズとコードが既知のサイトを見つけましたのでそれを参考に致します！
self.conv1 = torch.nn.Conv2d(3, 16, 5)
self.pool1 = torch.nn.MaxPool2d(2, 2)
self.conv2 = torch.nn.Conv2d(16, 32, 5)
self.pool2 = torch.nn.MaxPool2d(2, 2)
入力画像は320x240みたいなので，
| conv1 | pool1 | conv2 | pool2 | |
|---|---|---|---|---|
| IN | 320 | 316 | 158 | 154 |
| padding | 0 | 0 | 0 | 0 |
| dilation | 1 | 1 | 1 | 1 |
| kernel_size | 5 | 2 | 5 | 2 |
| stride | 1 | 2 | 1 | 2 |
| out | 316 | 158 | 154 | 77 |
| conv1 | pool1 | conv2 | pool2 | |
|---|---|---|---|---|
| IN | 240 | 236 | 118 | 114 |
| padding | 0 | 0 | 0 | 0 |
| dilation | 1 | 1 | 1 | 1 |
| kernel_size | 5 | 2 | 5 | 2 |
| stride | 1 | 2 | 1 | 2 |
| out | 236 | 118 | 114 | 57 |
結合部の1個目を見ると57と77っていう数字が出てるので，
計算あってますよね！
self.fc1 = torch.nn.Linear(32 * 57 * 77, 512)
だいぶタイトルとは脱線しましたが，
これで任意画像でも使えるようになったので，
実装が進められそうです！
REFERENCEs
Botterの定義
Have a good Botter Life!!!