因果推論の合流経路の基本性質の証明をします。
合流経路1とは次のような状態を示します：
X \rightarrow Z \leftarrow Y
このとき、次の内容1が成立します:
\begin{align}
X \perp Y \\
X \not\perp Y | Z \\
\end{align}
1に記載はないですが、本記事では合流経路の同時確率は $P(X, Y, Z) = P(Z|X, Y) P(X) P(Y)$ で与えられると仮定します。
1) XとYが独立であることの証明
独立性の定義より、$P(X)P(Y) = P(X,Y)$ が成立することを示します。
まず、$P(X, Y)$ を計算します。
\begin{align}
P(X, Y) &= \sum_Z P(X, Y, Z) \\
\end{align}
合流経路の仮定から、$P(X, Y, Z) = P(Z|X, Y) P(X) P(Y)$ なので、これを代入します。
\begin{align}
P(X, Y) &= \sum_Z P(Z|X, Y) P(X) P(Y) \\
&= P(X) P(Y) \sum_Z P(Z|X, Y) \\
\end{align}
ここで、特定の $X, Y$ が与えられたときの $Z$ の全確率が1であるため、$\sum_Z P(Z|X, Y) = 1$ が成立します 。
したがって、
\begin{align}
P(X, Y) &= P(X) P(Y) \\
\end{align}
これは $X$ と $Y$ が独立であることの定義そのものです。
よって $X \perp Y$。
2) XとYはZが与えられた時の条件付き独立でないことの証明
条件付き独立の定義より、$P(X,Y|Z) \neq P(X|Z)P(Y|Z)$ が一般的に成立することを示します。
まず、$P(X,Y|Z)$ を計算します。
\begin{align}
P(X,Y|Z) &= \frac{P(X,Y,Z)}{P(Z)} \\
\end{align}
合流経路の仮定から、$P(X,Y,Z) = P(Z|X, Y) P(X) P(Y)$ なので、これを代入します。
\begin{align}
P(X,Y|Z) &= \frac{P(Z|X, Y) P(X) P(Y)}{P(Z)} \\
\end{align}
次に、$P(X|Z)$ と $P(Y|Z)$ をそれぞれ計算します。
$P(X|Z) = \frac{P(X, Z)}{P(Z)} = \frac{\sum_Y P(X, Y, Z)}{P(Z)} = \frac{\sum_Y P(Z|X, Y) P(X) P(Y)}{P(Z)}$
$P(Y|Z) = \frac{P(Y, Z)}{P(Z)} = \frac{\sum_X P(X, Y, Z)}{P(Z)} = \frac{\sum_X P(Z|X, Y) P(X) P(Y)}{P(Z)}$
$X$ と $Y$ が $Z$ を条件として条件付き独立であるためには、$P(X,Y|Z) = P(X|Z)P(Y|Z)$ が成り立つ必要があります。
すなわち、以下の等式が一般的に成立しないことを示します。
$$\frac{P(Z|X, Y) P(X) P(Y)}{P(Z)} = \left( \frac{\sum_Y P(Z|X, Y) P(X) P(Y)}{P(Z)} \right) \left( \frac{\sum_X P(Z|X, Y) P(X) P(Y)}{P(Z)} \right)$$
この等式が一般には成立しないことを示すために、具体的な反例を挙げます。
反例:
$Z$ が $X$ と $Y$ の和である場合（$Z=X+Y$）を考えます。
$X \in {0, 1}, Y \in {0, 1}$ で独立。
- $P(X=0)=0.5, P(X=1)=0.5$
- $P(Y=0)=0.5, P(Y=1)=0.5$
このとき、$Z \in {0, 1, 2}$ となります。
- $Z=0$ の場合: $X=0, Y=0$ のみ。$P(Z=0) = P(X=0)P(Y=0) = 0.5 \times 0.5 = 0.25$
- $Z=1$ の場合: $(X=0, Y=1)$ または $(X=1, Y=0)$。$P(Z=1) = P(X=0)P(Y=1) + P(X=1)P(Y=0) = 0.25 + 0.25 = 0.5$
- $Z=2$ の場合: $X=1, Y=1$ のみ。$P(Z=2) = P(X=1)P(Y=1) = 0.5 \times 0.5 = 0.25$
$Z=1$ の場合に $X$ と $Y$ が条件付き独立でないことを示す：
$P(X=1, Y=1|Z=1)$ を計算します。
$X=1$ かつ $Y=1$ で $Z=1$ となる組み合わせは存在しないため、$P(X=1, Y=1|Z=1) = 0$。
$P(X=1|Z=1)$ を計算します。
$P(X=1|Z=1) = \frac{P(X=1, Z=1)}{P(Z=1)}$
$P(X=1, Z=1) = P(X=1, Y=0) = P(X=1)P(Y=0)$
$= 0.5 \times 0.5 = 0.25$
したがって、$P(X=1|Z=1) = \frac{0.25}{0.5} = 0.5$。
$P(Y=1|Z=1)$ を計算します。
$P(Y=1|Z=1) = \frac{P(Y=1, Z=1)}{P(Z=1)}$
$P(Y=1, Z=1) = P(X=0, Y=1) = P(X=0)P(Y=1)$ （なぜなら $X=0, Y=1$ のとき $Z=1$ となるため）
$= 0.5 \times 0.5 = 0.25$
したがって、$P(Y=1|Z=1) = \frac{0.25}{0.5} = 0.5$。
$P(X=1|Z=1)P(Y=1|Z=1) = (0.5)(0.5) = 0.25$
$P(X=1, Y=1|Z=1) = 0$ であり、$P(X=1|Z=1)P(Y=1|Z=1) = 0.25$ です。
$0 \neq 0.25$ であるため、$P(X, Y|Z=1) \neq P(X|Z=1)P(Y|Z=1)$ です。
よって $X \not\perp Y|Z$。
最後に
本記事があなたの役に立てば幸いです。