はじめに

最近、業務GANの一種を応用するニーズが出てきた。
せっかくだからGANについての知識をきちんと整理しようと思い、最終的にはNLPや音声認識に応用することを目標にGANについて学習・実装していこうという試み。
今回はざっくりと知識の整理をしてみる。
実装編は次回からしていく。

GANについて基礎知識

敵対的生成ネットワークのこと。
細かいところは割愛するが、AI関係のいろんなフィールドでかなり期待されているらしい。

生成器(Generator)と識別器(Discriminator)からなるNNのモデル。
生成器と識別器が競争的に学習する。

学習プロセスにおいて、ナッシュ均衡状態という以下のような均衡状態にたどり着くまで学習する。

通常のNNとGANの大きな違い。
GANでは識別器と生成器で異なる損失関数を持つ。
生成器の損失には識別器のパラメータも寄与しているが、生成器の学習においては生成器のパラメータしか更新できない。(逆も然り)
識別器と生成器で対立する目標に向かってナッシュ均衡まで学習していく。

GANについてまとめてみた。
実装がないとピンとこないので、次回からpytorchを使っていろんなGANを実装していこうと思う。