はじめに
会社の有志メンバーでパターン認識と機械学習(通称PRML)を勉強しており、演習問題1.7を解くことになったのでメモ。
1変数ガウス分布に関する規格化条件は下記。
\int_{-\infty}^{\infty}\mathcal{N}(x | \mu,\sigma^2)dx=1
これを証明してみる。
解答
PRML1.7の問題文に倣って、下記を考える
I = \int_{-\infty}^{\infty}\exp(-\frac{1}{2\sigma^2}x^2)dx
上記を２乗すると、次になる。
I^2 = \int_{-\infty}^{\infty}\int_{-\infty}^{\infty}\exp(-\frac{1}{2\sigma^2}x^2-\frac{1}{2\sigma^2}y^2)dxdy
これを、直交座標から極座標に変換する。つまり$x=r\cos\theta,y=r\sin\theta, dxdy=rdrd\theta$で置き換えると、
\begin{align*}
&= \int_{0}^{\infty}\int_{0}^{\infty}\exp(-\frac{1}{2\sigma^2}r^2\cos^2\theta-\frac{1}{2\sigma^2}r^2\sin^2\theta)rdrd\theta \\
&= \int_{0}^{\infty}\int_{0}^{\infty}\exp\{-\frac{r^2}{2\sigma^2}(\cos^2\theta+\sin^2\theta)\}rdrd\theta &\\
&= \int_{0}^{\infty}\int_{0}^{\infty}\exp(-\frac{r^2}{2\sigma^2})rdrd\theta \\
&= 2\pi\int_{0}^{\infty}\exp(-\frac{r^2}{2\sigma^2})rdr
\end{align*}
ここで、$u=r^2$で上を置き換える。
$\frac{1}{2}du = rdr$になることを注意して置換すると、
\begin{align*}
&= 2\pi\int_{0}^{\infty}\exp(-\frac{r^2}{2\sigma^2})rdr \\
&= \pi\int_{0}^{\infty}\exp(-\frac{u}{2\sigma^2})du \\
&= \pi\left[-2\sigma^2\exp(-\frac{u}{2\sigma^2})\right]^{\infty}_0 \\
&= -2\pi\sigma^2(e^{-\infty} - e^0) \\
&= 2\pi\sigma^2 \\
\end{align*}
長かったですが、$I = \int_{-\infty}^{\infty}\exp(-\frac{1}{2\sigma^2}x^2)dx =(2\pi\sigma^2)^{\frac{1}{2}}$を示すことができました。少し後でこれを使います。
ここで、1変数ガウス分布の定義は次です。
\int_{-\infty}^{\infty}\mathcal{N}(x|\mu,\sigma^2)dx = \frac{1}{(2\pi\sigma^2)^{\frac{1}{2}}}\int_{-\infty}^{\infty} \exp\{-\frac{1}{2\sigma^2}(x-\mu)^2\}dx
ここで、$x-\mu=z$とおくと上の式は、
= \frac{1}{(2\pi\sigma^2)^{\frac{1}{2}}}\int_{-\infty}^{\infty} \exp\{-\frac{1}{2\sigma^2}(z)^2\}dz = \frac{1}{(2\pi\sigma^2)^{\frac{1}{2}}} I = \frac{1}{(2\pi\sigma^2)^{\frac{1}{2}}} (2\pi\sigma^2)^{\frac{1}{2}} = 1
なので、1変数ガウス分布に関する規格化条件を証明できたはず。
おしまい。