はじめに
なんとQiita初投稿が数学の記事になってしまいました. ITに関することも...そのうち...
Markdownで数式書けるのは便利でいいですね. スクロールバーが表示されるのだけがやや気になりますが...
問題 2.5
$ X,Y \in L^{1}(\Omega ) $ が独立ならば
\mathbf{E}[XY] = \mathbf{E}[X]\mathbf{E}[Y]
が成り立つ.
教科書では簡単のため $X,Y$ の有界性を仮定していますが, ここでは一般の場合での主張を証明しておきます. 有界性($|X|\leq M$, $|Y|\leq N$)を仮定する場合は,下記の証明において
\begin{aligned} i&=-2^{n}M,-2^{n}M+1,\ldots , -1, 0, 1, \ldots ,2^{n}M-1 \\ j&=-2^{n}N,-2^{n}N+1,\ldots , -1, 0, 1, \ldots ,2^{n}N-1 \end{aligned}と置き換えて, 単調収束定理の代わりに有界収束定理を適用することで主張が得られます.
証明
まず $X,Y \geq 0$ の場合を考える. 任意の $n \in \mathbb{N}$に対して
X_{n}
:= \sum_{i=0}^{2^{n}n-1}\frac{i}{2^{n}}\mathbf{1}_{X^{-1}([\frac{i}{2^{n}}, \frac{i+1}{2^{n}}))},
\quad
Y_{n}
:= \sum_{j=0}^{2^{n}n-1}\frac{j}{2^{n}}
\mathbf{1}_{Y^{-1}([\frac{j}{2^{n}}, \frac{j+1}{2^{n}}))}
とする. ここで $\mathbf{1}_{A}(\omega ):=1$ ( if $\omega \in A$ ), $:=0$ ( if $\omega \not\in A$ ) for $A \subset \Omega$. このとき
X_{n}Y_{n} =
\sum_{i=0}^{2^{n}n-1}
\sum_{j=0}^{2^{n}n-1}
\frac{i}{2^{n}}
\frac{j}{2^{n}}
\mathbf{1}_{
X^{-1}([\frac{i}{2^{n}}, \frac{i+1}{2^{n}}))
\cap
Y^{-1}([\frac{j}{2^{n}}, \frac{j+1}{2^{n}}))
}
より
\mathbf{E}[X_{n}Y_{n}] =
\sum_{i=0}^{2^{n}n-1}
\sum_{j=0}^{2^{n}n-1}
\frac{i}{2^{n}}
\frac{j}{2^{n}}
\mathbf{P}\left(
X^{-1}\left(\left[\frac{i}{2^{n}}, \frac{i+1}{2^{n}}\right)\right)
\cap
Y^{-1}\left(\left[\frac{j}{2^{n}}, \frac{j+1}{2^{n}}\right)\right)
\right) .
$X,Y$ は独立なので
\mathbf{P}\left(
X^{-1}\left(\left[\frac{i}{2^{n}}, \frac{i+1}{2^{n}}\right)\right)
\cap
Y^{-1}\left(\left[\frac{j}{2^{n}}, \frac{j+1}{2^{n}}\right)\right)
\right) \\
\qquad\qquad\qquad\qquad\qquad =
\mathbf{P}\left(
X^{-1}\left(\left[\frac{i}{2^{n}}, \frac{i+1}{2^{n}}\right)\right) \right)
\mathbf{P}\left(
Y^{-1}\left(\left[\frac{j}{2^{n}}, \frac{j+1}{2^{n}}\right)\right) \right) .
したがって
\mathbf{E}[X_{n}Y_{n}] = \mathbf{E}[X_{n}]\mathbf{E}[Y_{n}] .
一方で $X_{n} \nearrow X$, $Y_{n} \nearrow Y$, $X_{n}Y_{n} \nearrow XY$ as $n \to \infty$. 単調収束定理より
\mathbf{E}[XY]
= \lim_{n\to \infty} \mathbf{E}[X_{n}Y_{n}]
= \lim_{n\to \infty} \mathbf{E}[X_{n}]\mathbf{E}[Y_{n}]
= \mathbf{E}[X]\mathbf{E}[Y]
を得る. 次に $X, Y$ が実数値の場合を考える. $X^{+}:=\max (X, 0)$, $X^{-}:=\max (-X, 0)$ とする ( $Y$ についても同様). このとき $|X|=X^{+}+X^{-}$ であり $X^{+},X^{-} \in L^{1}(\Omega)$. したがって
\begin{aligned}
\mathbf{E}[X]\mathbf{E}[Y]
&= \mathbf{E}[(X^{+} - X^{-})]\mathbf{E}[(Y^{+} - Y^{-})] \\
&= (\mathbf{E}[X^{+}]- \mathbf{E}[X^{-}])(\mathbf{E}[Y^{+}]- \mathbf{E}[Y^{-}]) \\
&= \mathbf{E}[X^{+}]\mathbf{E}[Y^{+}] - \mathbf{E}[X^{+}]\mathbf{E}[Y^{-}] - \mathbf{E}[X^{-}]\mathbf{E}[Y^{+}] + \mathbf{E}[X^{-}]\mathbf{E}[Y^{-}] \\
&= \mathbf{E}[X^{+}Y^{+}] - \mathbf{E}[X^{+}Y^{-}] - \mathbf{E}[X^{-}Y^{+}] + \mathbf{E}[X^{-}Y^{-}] \\
&= \mathbf{E}[X^{+}Y^{+} - X^{+}Y^{-} - X^{-}Y^{+} + X^{-}Y^{-}] \\
&= \mathbf{E}[(X^{+}-X^{-})(Y^{+}-Y^{-})] \\
&= \mathbf{E}[XY]
\end{aligned}
を得る.
補足1
上記の「 $X,Y\in L^{1}(\Omega )$ が独立」という仮定は $XY\in L^{1}(\Omega )$ も主張します. 実際,
独立確率変数 $X_{1}, X_{2}, \ldots ,X_{n}$ とボレル可測関数 $f_{1}, f_{2}, \ldots , f_{n}$ に対して, $f_{1}(X_{1}), f_{2}(X_{2}), \ldots , f_{n}(X_{n})$ は独立確率変数である.
という事実から $|X|, |Y|$ も独立なので,
\mathbf{E}[|XY|] = \mathbf{E}[|X|]\mathbf{E}[|Y|] < \infty
が従います. 一般に $X,Y$ が独立ではない場合, $XY \in L^{1}(\Omega )$ となるための１つの十分条件は $X, Y\in L^{2}(\Omega )$ です (Schwarzの不等式).
補足2
Fubiniの定理を適用すると簡潔に証明できます. 実際, 補足1により $XY\in L^{1}(\Omega )$ なのでFubiniの定理が適用出来て,
\begin{aligned}
\mathbf{E}[XY]
&= \int_{\mathbb{R}^{2}}xy\, \mathbf{P}(X\in dx,\, Y\in dy) \\
&= \int_{\mathbb{R}^{2}}xy\, \mathbf{P}(X\in dx) \mathbf{P}(Y\in dy) \quad \mathrm{(\because 独立性)} \\
&= \int_{\mathbb{R}}x \left( \int_{\mathbb{R}} y\,\mathbf{P}(Y\in dy) \right)\, \mathbf{P}(X\in dx) \quad \mathrm{(\because Fubiniの定理)} \\
&= \mathbf{E}[X]\mathbf{E}[Y]
\end{aligned}
が従います.