「Swin Transformer」の概要を理解する
はじめに 前回、基礎となる「Transformer」の概要を（大雑把にだけど）理解したので、本命である「Swin Transformer」 ...
25
11
0
物体検出向けTransformer系の論文調査
。小さい物体は周辺物体との共起性の傾向が強く、広い範囲でのコンテキスト情報を学習できるTransformer系のバックボーンは小さい物体の検出に強いと言える。 視点変化(vi ...
0
1
1
【Pytorch】SwinTransformerでLet's画像分類！
Transformerはこれらの問題をどのように解決した？ Patch MergingというPoolingのように画像の縦横を小さくする機構を導入 Vision
2
2
0
【コンピュータビジョン編】2022年に読むべき「機械学習/ディープラーニングの最新論文」30選
Transformer: Hierarchical Vision Transformer Using Shifted Windows 実装のURL：http ...
6
14
0
週刊Transformer（画像認識向け）5号
ウを並列で見ることでSOTA。 GLiT: Neural Architecture Search for Global and Local Image Transformer ...
2
3
0
ECCV2022の量子化論文 (1)
だったが、BNのないViTでも適用できるようにした。 キモ：TransformerはMulti Head Attentionで前景パッチにattentionが当たりやすい観察 ...
3
4
0
一様分布に何を掛ければ正規分布になるか？
Transformer V2でLog-CPBというlog-spacedな座標があったので検討してみたがこの方針では正規分布に変換する関数には見えない。 参考：
1
2
0
【AI最新論文】2022年に読むべき「機械学習/ディープラーニングの最新論文」30選
Transformer: Hierarchical Vision Transformer Using Shifted Windows」 新たなVision
300
380
1
Kaggle振り返り PetFinder.my - Pawpularity Contest
Transformer, swin_large_patch4_window7_224_in22k / swin_large_patch4_ ...
17
10
0
MLP系画像認識モデル論文リンク集
Transformer) even with slightly lower FLOPs. In addition, AS-MLP is also the first MLP- ...
4
3
0
1 / 3