ファインチューニングについて
解決したいこと
事前学習済みモデルを用いてファインチューニングを行いたいのですが，モデルの一部を変えた場合もファインチューニングを行えますか？
例えばResnetにSEブロックを追加した自作モデルに，事前学習済みResnetを用いてファインチューニングできますか？
0
2Answer
できるかどうか論で聞いていらっしゃるのであれば，「できます．」
0Like
Comments
@gazounu
Questioner
なにか含みのある言い方ですがどういうことですか- やりようによっては精度が悪くなる可能性があります．あくまでSEブロック無しで最適化された結果に対してSEブロックを付け加えるのですから，探索的に色々試す必要があります．次の記事ではSEブロックの他にも精度向上に寄与する手法を併用したりしていますが相性が悪いのか精度が下がるケースもあったことが報告されています．
https://qiita.com/koshian2/items/6742c469e9775d672072
この記事で使われている転移学習手法が最適とも限らないので注意してください．全レイヤを学習可能にしていますがCNNの多くのファインチューニングは入力側のレイヤを学習可能にしません．
https://farml1.com/transfer/
こんにちは、お手伝いできて嬉しいです。日本語が分からないので、翻訳ソフトを通じてコミュニケーションを取っていますので、質問が多くなるかもしれませんが、どうぞお気軽にお聞きください。最初の質問は完全に理解できます。例えば、ResNetは、元の論文ではImageNet-1kデータセットで訓練されており、このデータセットは1000クラスのタスクです。自分で実装する際には、おそらくこれほど多くの分類カテゴリはないでしょうから、一般的なファインチューニングの手法としては、最後の全結合層を再構築し、前のCNN層のパラメータをすべて凍結して更新しないようにすることです。
これは論文のアドレスです：https://openaccess.thecvf.com/content_cvpr_2016/papers/He_Deep_Residual_Learning_CVPR_2016_paper.pdf
0Like