学習したことを忘れないように、メモっておこうかと。

GAN

生成器(Genrerator)と識別器(Discriminator)を競わせて学習する生成＆識別モデル

わかりやすかったページ

Generator

入力：乱数 (noize)

Discriminator

学習時の入力：真のデータ
識別時の入力：Generatorの生成データ

価値関数

価値関数𝑉に対し, 𝐷が最大化, 𝐺が最小化を行う。

勝利する確率を最大化したい：D は偽物を摘出するために勝利したい。
相手の勝利する確率を最小化したい：GはDを騙したい。

価値観数を V(D, G) とする。（Dが勝利する確率）

\underset{G}{min} \, \underset{D}{max} V(D, G) \\
V(D,G) = \mathbb{E}_{x〜p_{data}(x)}[logD(x)] + \mathbb{E}_{z〜p_x(x)}[log(1-(G(z))]

これ、バイナリークロスエントロピーなんです。

バイナリークロスエントロピー

閑話休題。
バイナリークロスエントロピーは、下記のような定義。

L = - \sum ylog\widehat{y} + (1-y)log(1-\widehat{y})

y: 真値
$\widehat{y}$ : 予測値

真データを扱う時

y=1, $\widehat{y} = D(x)$ なんです。
すると、価値関数は

L = - log[D(x)]

生成データを扱う時

y=0, $\widehat{y} = D(G(z))$ なんです。
すると、価値関数は

L = - log[1-D(G(x))]

GAN の価値関数は、バイナリークロスエントロピーの真データを扱う時と、生成データを扱う時の2つを足し合わせたもの。

期待値は下記になる。

期待値 = \sum xp(x)

価値関数をいい感じにするために、下記のステップで算出する。

Gを固定して価値関数が最大値になる D(x) を算出する。
求められたD(x)を価値関数に代入して、Gが価値関数を最小化する条件を算出する。

まずは、Discriminator, Generator のパラメータを最適化する。

パラメータの最適化

Discriminatorのパラメータ最適化

Discriminator のパラメータ $\theta_d$ をk回更新する。

Generator のパラメータ $\theta_g$ は固定する。

使用するサンプル
真データと生成データを𝑚個ずつサンプル
更新式
勾配上昇法(Gradient Ascent)で更新する。

\frac{\partial}{\partial\theta_d} \frac{1}{m}[log[D(x)]] + log[1-D(G(z))]]

Generator のパラメータ最適化

Generator のパラメータ$\theta_g$を 1回更新する。

Discriminator のパラメータ $\theta_d$ は固定する。

使用するサンプル
生成データを𝑚個ずつサンプル
更新式
勾配降下法(Gradient Decent)で更新する。

\frac{\partial}{\partial\theta_g} \frac{1}{m}[log[1-D(G(z))]]

Generatorが本物のようなデータを生成する状況は、下記のように生成したものと、真のデータが一致している場合。

p_g = p_{data}

価値関数を最大化する D(x) の求め方

Generatorを固定する。

\begin{eqnarray}
V(D,G) &=& \mathbb{E}_{x〜p_{data}(x)}[logD(x)] + \mathbb{E}_{z〜p_x(x)}[log(1-(G(z))]\\
&=& \int_x p_{data}(x)log(D(x))dx +\int_zp_z(z)log(1-D(G(z)))dz \\
&=& \int_x p_{data}(x)log(D(x)) + p_g(x)log(1-D(x))dx
\end{eqnarray}

ここで一旦、下記に置き換える。

\begin{eqnarray}
y &=& D(x)\\
a &=& p_{data}(x)\\
b &=& p_g(x)
\end{eqnarray}

すると、下記式の極値を求める感じに簡略化できる。
おお！(@o@)

alog(y) + blog(1-y)

yで微分すると、下記式になる。

\frac{a}{y} + \frac{b}{1-y}(-1) = 0\\
y= \frac{a}{a+b}

先ほど置き換えた式を思い出して、戻すと

D(x) = \frac{p_{data}(x)}{p_{data}(x) + p_g(x)}

になる。

価値関数はいつ、最小化するか求め方

先ほど求めた D(x)で V(D,G)を置き換える。

\begin{eqnarray}
V &=& \mathbb{E}_{x〜p_{data}}log[\frac{p_{data}(x)}{p_{data}(x) + p_g(x)}] + \mathbb{E}_{z〜p_g}log[1-\frac{p_{data}(x)}{p_{data}(x) + p_g(x)}]\\
&=& \mathbb{E}_{x〜p_{data}}log[\frac{p_{data}(x)}{p_{data}(x) + p_g(x)}] + \mathbb{E}_{z〜p_g}log[\frac{p_{g}}{p_{data}(x) + p_g(x)}]\\
\end{eqnarray}

$p_{data}$と$p_g$ がどれだけ似ているかわかれば良い。
指標として、JSダイバージェンスがある。

JSダイバージェンスは非負で、分布が一致する時のみ 0 になる。

価値関数を変形する。

\begin{eqnarray}
&=& \mathbb{E}_{x〜p_{data}}log[\frac{p_{data}(x)}{p_{data}(x) + p_g(x)}] + \mathbb{E}_{z〜p_g}log[\frac{p_{g}}{p_{data}(x) + p_g(x)}]\\
&=& \mathbb{E}_{x〜p_{data}}log[\frac{2p_{data}(x)}{p_{data}(x) + p_g(x)}] + \mathbb{E}_{z〜p_g}log[\frac{2p_{g}}{p_{data}(x) + p_g(x)}] -2log2\\
&=& 2JS(p_{data}||p_g) - 2log2
\end{eqnarray}

$p_{data} = p_g$ の時に最小値になる。
つまり、JS(p_{data}||p_g) = 0 の時。

DCGAN

GAN の生成品質を向上させた。

わかりやすかったページ

GANとの違いと、同じことは下記の通り。

Generator

Pooling層ではなく、転置畳み込み層を使う。
乱数を画像にアップサンプリングする。
使用する活性化関数は、最終層は tanh、その他はReLU関数。

Discriminator

Pooling層ではなく、畳み込み層を使う。

画像から特徴量を抽出して、最終層をsigmoid関数で活性化する。
使用する活性化関数は、Leaky ReLU関数

変わらないこと

中間層に前結合層を使わない。
バッチノーマライゼーションを使う。

Conditional GAN

Generator にもラベルを与える。
画像や説明文も扱える。
条件ラベルの入力に用いる方法の1つにEmbedding層を使うことが考えらえる。
Discriminator　は入力サンプルが本物でもラベルと一致しなければ拒絶する。
Generator に U-Net を用いる。