Introduction : モーメント母関数
確率変数$X$のモーメント母関数(moment generating function)とは、$M_{X}(t) := \mathbb{E}\left[\exp tX\right]$と定義されます。モーメント母関数を考えるモチベーションの1つは以下の定理でしょう。
定理 : 確率変数$X,Y$のモーメント母関数が等しいならば、確率変数$X,Y$が従う確率分布は等しい。
要するに、モーメント母関数と確率分布との間には1:1対応があります。この定理は、再生性の証明を行う際など、とてもよく使うものです。
Remark : 確率分布によってはモーメント母関数が存在しないような例もあります。代表例はCauchy分布（自由度1のt分布など）や対数正規分布です。
1. 問題
ところで、再生性をモーメント母関数を用いて証明する際、以下の命題をよく用います。証明も難しくないので、付せて紹介しましょう。
命題 : $X,Y$が独立ならば、$M_{X+Y}(t)=M_{X}(t)M_{Y}(t)$が成り立つ。
証明 :
$X,Y$が独立であれば$\exp(tX),\exp(tY)$も独立であるため、
\begin{eqnarray*}
M_{X+Y}(t)&=&\mathbb{E}\left[\exp t(X+Y)\right]\\
&=&\mathbb{E}\left[\exp tX\exp tY\right]\\
&=&\mathbb{E}\left[\exp tX\right]\mathbb{E}\left[\exp tY\right]\\
&=&M_{X}(t)M_{Y}(t)
\end{eqnarray*}
が従います。■
今回のテーマは、この命題の逆は成り立つか？というものです。
問題 : $M_{X+Y}(t)=M_{X}(t)M_{Y}(t)$が成り立つならば、$X,Y$は独立か？
2. 解答
結論から言うと成り立ちません。例えば、Flury(1986)による次のような反例が知られています。
反例 : 確率変数$X,Y$の同時確率質量関数が以下のように定義されているものとします。
| X\Y | 1 | 2 | 3 |
|---|---|---|---|
| 1 | 1/9 | 1/18 | 1/6 |
| 2 | 1/6 | 1/9 | 1/18 |
| 3 | 1/18 | 1/6 | 1/9 |
確率変数$X,Y$のモーメント母関数をそれぞれ計算しましょう。確率変数$X,Y$はともに任意の$x,y=1,2,3$に対して$\mathbb{P}[X=x]=1/3$, $\mathbb{P}[Y=y]=1/3$を満たします。これから
\begin{eqnarray*}
M_{X}(t) &=& \mathbb{E}[\exp tX]\\
&=& \frac{1}{3}\exp t + \frac{1}{3}\exp 2t + \frac{1}{3}\exp 3t
\end{eqnarray*}
が成り立ちます。同様に$M_{Y}(t)=\frac{1}{3}\exp t + \frac{1}{3}\exp 2t + \frac{1}{3}\exp 3t$です。
確率変数$X+Y$の確率質量関数は、以下の表のようになります。
| X+Y | 2 | 3 | 4 | 5 | 6 |
|---|---|---|---|---|---|
| 確率 | 1/9 | 2/9 | 3/9 | 2/9 | 1/9 |
これから
\begin{eqnarray*}
M_{X+Y}(t) &=& \mathbb{E}[\exp t(X+Y)]\\
&=& \frac{1}{9}\exp 2t + \frac{2}{9}\exp 3t + \frac{3}{9}\exp 4t + \frac{2}{9}\exp 5t + \frac{1}{9}\exp 6t
\end{eqnarray*}
が成り立ちます。以上から、$M_{X+Y}(t)=M_{X}(t)M_{Y}(t)$が成り立つことがわかりますが、同時確率質量関数の定義から$X,Y$は独立ではないので反例が構成できたことになります。
3. 考察
Fluryの例は、$X,Y$が同じ定義域上の一様分布に従っているとき、$M_{X+Y}(t)=M_{X}(t)M_{Y}(t)$を満たすならば、$X+Y$は三角分布に従っているという事実をヒントに作られています。（この事実は2の計算, モーメント母関数と確率分布の1:1対応から難しくなく示すことが出来ます。）反例を作るためには、
問題 : $X,Y$が$x,y=1,2,3$を実現値に取るような離散一様分布に従うとき、$X+Y$が三角分布になるような$(X,Y)$の同時分布をすべて求めよ。
を解いて、そこから$X,Y$が独立でないケースを選べばよいわけです。結論だけを述べると、この問題の解となる$(X,Y)$の同時分布は1つのパラメータ$0\leq t\leq\frac{2}{9}$を用いて、以下の形で尽くされます。
| X\Y | 1 | 2 | 3 |
|---|---|---|---|
| 1 | $\frac{1}{9}$ | $t$ | $\frac{2}{9}-t$ |
| 2 | $\frac{2}{9}-t$ | $\frac{1}{9}$ | $t$ |
| 3 | $t$ | $\frac{2}{9}-t$ | $\frac{1}{9}$ |
ここで$t=1/9$の場合は$X,Y$が独立なので、それ以外の$t$の値を選べば独立でない例を作ることが出来ます。例えば、$t=1/18$の場合はFluryの例になっているわけです。
Remark : 要するに、$X,Y$が$x,y=1,2,3$上の離散一様分布になるような同時分布のパラメータ空間は4次元、そのうち無相関（⇔ $\mathbb{E}[XY]=\mathbb{E}[X]\mathbb{E}[Y]$）をみたすような部分空間は3次元、さらに$M_{X+Y}(t)=M_{X}(t)M_{Y}(t)$をみたすような部分空間は1次元、最後に$X,Y$が独立になるのは1点（0次元）という包含関係になっています。
Acknowledgement
すうがくぶんかの伊集院先生とモーメント母関数の話をしていたときに教えてもらった話が、この記事を書くきっかけになりました。いつも面白い話を教えてくれてありがとうございます。