Approximate Inferenceのevidence lower boundとVariational Autoencodersのvariational lower boundの等価の証明

Variational Autoencoders (VAE)の論文Auto-Encoding Variational Bayesを読んだ時、式(1)にあるp(z|x)が、式(3)の中にp(z)になったところに引っかかって、簡単ですが、この証明を記載したいと思います。
式(1)

式(3)

evidence lower bound (ELBO)

式(1)はevidence lower bound (ELBO)の定義です。Deep Learning本の第19章Approximate InferenceにELBOを結構利用しています。式(3)はVAEの実装に使っているlower bound。式(1)にあるp(z|x)はほとんど解けないので、p(z|x)がない方の式(3)で実装しやすいです。

ELBOとVAEのvariational lower boundが等価の証明

\begin{split}
\mathcal{L}

&= 
log p(x)-D_{KL}(q(z|x)\|p(z|x))
\\

&=
logp(x)-\mathbb{E}_{z\sim q}log\frac{q(z|x)}{p(z|x)}
\\

&=
logp(x)-\mathbb{E}_{z\sim q}log\frac{q(z|x)}{\frac{p(z,x)}{p(x)}}
\\

&=
logp(x)-\mathbb{E}_{z\sim q}log\frac{q(z|x)p(x)}{p(z,x)}
\\

&=
logp(x)-\mathbb{E}_{z\sim q}log\frac{q(z|x)p(x)}{p(z)p(x|z)}
\\

&=
-\mathbb{E}_{z\sim q}log\frac{q(z|x)}{p(z)p(x|z)}
\\

&=
\mathbb{E}_{z\sim q}logp(x|z)-\mathbb{E}_{z\sim q}log\frac{q(z|x)}{p(z)}
\\

&=
\mathbb{E}_{z\sim q}logp(x|z)-D_{KL}(q(z|x)\|p(z))

\end{split}