More than 3 years have passed since last update.

【Normalization】instance norm : BatchNormよりInstanceNorm?

Last updated at 2021-01-13Posted at 2021-01-06

Instance Normalization: The Missing Ingredient for Fast Stylization

Instance NormはBatch NormのBatch Size=1の時と等価である。 Instance Normはスタイル変換という2枚の画像を組み合わせて、両方の画像の特徴を合わせた画像を生成するタスクで使われている。

計算式

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482094/2436dda4-f578-33ae-c7a5-b647a57dfd30.png) [pytorch引用](https://pytorch.org/docs/stable/generated/torch.nn.InstanceNorm2d.html)

数式通り平均からの差分をとり、標準偏差で割っています。
標準偏差で割る事でデータの分散の影響を受けにくくなる。

結果

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482094/34aa3aa3-3937-4bbb-a4e0-ee76073aa8dd.png)

左下の画像(zero pad)より右下の画像(zero pad + instance norm)の方が、入力の画像の特徴を壊さずstylization出来ている

Batch NormよりInstance Normの方が良くstylizationされている

結論

・入力画像の光の加減や影響を受けにくくなるはず・次は他のタスクに使われている論文をまとめたい

参考文献

Instance Normalization: The Missing Ingredient for Fast Stylization https://arxiv.org/pdf/1607.08022.pdf

You get articles that match your needs
You can efficiently read back useful information
You can use dark theme

What you can do with signing up