自由度nのカイ二乗分布の積率母関数（モーメント母関数）の求め方【入門】
- 統計学を学ぶ上で重要な確率分布の一つ、カイ二乗分布（$\chi^2$分布）。
- その性質を深く理解するのに役立つのが**積率母関数（モーメント母関数）**です。積率母関数が分かれば、その分布の平均や分散といったモーメントを簡単に計算できます。
- この記事では、自由度$n$のカイ二乗分布の積率母関数 $M_X(t)$ を求める方法を、数式の変形を一つひとつ丁寧に追いながら解説します。最初に、確率変数の性質を利用した最もシンプルで直感的な方法を紹介します。その後に確率密度関数から直接計算する方法も見ていきましょう。
- 今回の考え方や計算過程には、数理統計学の入門者にとってとても勉強になる基礎が詰まっています。ぜひ、勉強のお供に役立ててみてください！
結論
自由度$n$のカイ二乗分布に従う確率変数$X$の積率母関数は次のようになります。
$$M_X(t) = (1-2t)^{-\frac{n}{2}} \quad (\text{ただし } t < \frac{1}{2})$$
最も簡単な方法：カイ二乗分布の「定義」から求める
この方法が最もおすすめなのは、カイ二乗分布が「どのように作られるか」という定義に立ち返るため、非常に見通しが良く、ガンマ関数などの少し高度な知識がなくても理解できる点です。
ステップ1：カイ二乗分布の成り立ちを理解する
まず、自由度$n$のカイ二乗分布の定義を確認します。
カイ二乗分布の定義
互いに独立で、標準正規分布 $N(0, 1)$ に従う $n$ 個の確率変数 $Z_1, Z_2, \dots, Z_n$ があるとき、これらの二乗和
$$
X = Z_1^2 + Z_2^2 + \dots + Z_n^2 = \sum_{i=1}^{n} Z_i^2
$$
が従う確率分布を、自由度$n$のカイ二乗分布といいます。
つまり、自由度$n$のカイ二乗分布は、自由度1のカイ二乗分布（$Z^2$）に従う確率変数を $n$ 個足し合わせたものと考えることができます。
ステップ2：積率母関数の便利な性質を利用する
積率母関数には、確率変数の和を扱う際に非常に便利な性質があります。
積率母関数の性質
互いに独立な確率変数 $X_1, X_2, \dots, X_n$ の和を $Y = X_1 + \dots + X_n$ とすると、その積率母関数は、それぞれの積率母関数の積になる。
$$
M_Y(t) = M_{X_1}(t) \cdot M_{X_2}(t) \cdot \dots \cdot M_{X_n}(t)
$$
この性質を使うと、$X = \sum Z_i^2$ の積率母関数は、各 $Z_i^2$ の積率母関数の積で表せます。$Z_i$ はすべて同じ標準正規分布に従うので、$Z_i^2$ の分布もすべて同じ（自由度1のカイ二乗分布）です。したがって、
$$M_X(t) = M_{Z_1^2}(t) \cdot M_{Z_2^2}(t) \cdot \dots \cdot M_{Z_n^2}(t) = (M_{Z^2}(t))^n$$
となります。つまり、自由度1のカイ二乗分布の積率母関数を求めて、それをn乗すればよいわけです！
ステップ3：自由度1のカイ二乗分布の積率母関数を求める
それでは、$W = Z^2$（ただし $Z \sim N(0, 1)$）の積率母関数 $M_W(t)$ を計算しましょう。積率母関数の定義は $M_W(t) = E[e^{tW}] = E[e^{tZ^2}]$ です。
標準正規分布 $N(0, 1)$ の確率密度関数は $f(z) = \frac{1}{\sqrt{2\pi}} e^{-\frac{z^2}{2}}$ なので、
$$
\begin{aligned}
M_W(t) &= E[e^{tZ^2}] \
&= \int_{-\infty}^{\infty} e^{tz^2} f(z) dz \quad (\text{期待値の定義}) \
&= \int_{-\infty}^{\infty} e^{tz^2} \frac{1}{\sqrt{2\pi}} e^{-\frac{z^2}{2}} dz \quad (\text{確率密度関数を代入}) \
&= \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{\infty} e^{tz^2 - \frac{z^2}{2}} dz \quad (\text{指数をまとめる}) \
&= \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{\infty} e^{-\frac{1-2t}{2}z^2} dz \quad (\text{指数を } z^2 \text{ でくくる})
\end{aligned}
$$
ここで、正規分布の確率密度関数 $\frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$ を全区間で積分すると1になることを思い出しましょう。上の式の積分部分は、平均 $\mu=0$、分散 $\sigma^2 = \frac{1}{1-2t}$ の正規分布の積分に非常によく似ています。
この積分が収束するためには、指数の係数が正である必要があるので、$\frac{1-2t}{2} > 0$、つまり $t < 1/2$ という条件がつきます。
正規分布の確率密度関数の全積分が1であることから、$\int_{-\infty}^{\infty} e^{-\frac{z^2}{2\sigma^2}} dz = \sqrt{2\pi\sigma^2}$ が成り立ちます。
$\sigma^2 = \frac{1}{1-2t}$ を代入すると、
$$\int_{-\infty}^{\infty} e^{-\frac{1-2t}{2}z^2} dz = \sqrt{2\pi \cdot \frac{1}{1-2t}} = \frac{\sqrt{2\pi}}{\sqrt{1-2t}}$$
となります。これを元の式に戻すと、
$$
\begin{aligned}
M_W(t) &= \frac{1}{\sqrt{2\pi}} \cdot \frac{\sqrt{2\pi}}{\sqrt{1-2t}} \
&= \frac{1}{\sqrt{1-2t}} = (1-2t)^{-\frac{1}{2}}
\end{aligned}
$$
これで、自由度1のカイ二乗分布の積率母関数が求まりました！
ステップ4：自由度nの場合に拡張する
ステップ2で見たように、自由度$n$のカイ二乗分布の積率母関数は、自由度1の場合のn乗です。したがって、
$$M_X(t) = (M_{Z^2}(t))^n = \left( (1-2t)^{-\frac{1}{2}} \right)^n = (1-2t)^{-\frac{n}{2}}$$
別の方法：確率密度関数から直接求める
次善の策として、カイ二乗分布の確率密度関数から直接積分して求める方法も見ておきましょう。こちらはガンマ関数の知識が必要になりますが、確率分布の定義から直接計算する王道的なアプローチです。
ステップ1：積率母関数の定義式に代入する
自由度$n$のカイ二乗分布に従う確率変数$X$の確率密度関数 $f(x)$ は、ガンマ関数 $\Gamma$ を用いて次のように表されます。
$$f(x) = \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} x^{\frac{n}{2}-1} e^{-\frac{x}{2}} \quad (x > 0)$$
積率母関数の定義式 $M_X(t) = \int_{0}^{\infty} e^{tx} f(x) dx$ にこれを代入します。
$$
\begin{aligned}
M_X(t) &= \int_{0}^{\infty} e^{tx} \left( \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} x^{\frac{n}{2}-1} e^{-\frac{x}{2}} \right) dx \
&= \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} \int_{0}^{\infty} x^{\frac{n}{2}-1} e^{tx - \frac{x}{2}} dx \quad (\text{定数を積分の外に出す}) \
&= \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} \int_{0}^{\infty} x^{\frac{n}{2}-1} e^{-(\frac{1}{2}-t)x} dx \quad (\text{指数をまとめる}) \
&= \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} \int_{0}^{\infty} x^{\frac{n}{2}-1} e^{-(\frac{1-2t}{2})x} dx
\end{aligned}
$$
ステップ2：ガンマ分布の形に持ち込む（置換積分）
この積分を計算するために、ガンマ関数の定義 $\Gamma(\alpha) = \int_0^\infty u^{\alpha-1} e^{-u} du$ の形に近づけます。
$u = (\frac{1-2t}{2})x$ となるように置換積分を行いましょう。
すると、$x = \frac{2u}{1-2t}$ であり、$dx = \frac{2}{1-2t}du$ となります。積分範囲は $x$ が $0 \to \infty$ のとき、$u$ も $0 \to \infty$ のままです。
これらを代入すると、
$$
\begin{aligned}
M_X(t) &= \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} \int_{0}^{\infty} \left( \frac{2u}{1-2t} \right)^{\frac{n}{2}-1} e^{-u} \left( \frac{2}{1-2t} \right) du \
&= \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} \int_{0}^{\infty} \frac{2^{\frac{n}{2}-1}}{(1-2t)^{\frac{n}{2}-1}} u^{\frac{n}{2}-1} e^{-u} \frac{2}{1-2t} du \quad (\text{括弧を展開}) \
&= \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} \cdot \frac{2^{\frac{n}{2}}}{(1-2t)^{\frac{n}{2}}} \int_{0}^{\infty} u^{\frac{n}{2}-1} e^{-u} du \quad (\text{uに関係ない項を外に出す})
\end{aligned}
$$
ステップ3：ガンマ関数の定義を利用して計算する
ここで、積分の部分 $\int_{0}^{\infty} u^{\frac{n}{2}-1} e^{-u} du$ は、まさにガンマ関数の定義そのものであり、$\Gamma(\frac{n}{2})$ となります。
したがって、
$$
\begin{aligned}
M_X(t) &= \frac{1}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})} \cdot \frac{2^{\frac{n}{2}}}{(1-2t)^{\frac{n}{2}}} \cdot \Gamma(\frac{n}{2}) \
&= \frac{1}{(1-2t)^{\frac{n}{2}}} \quad (\text{約分する}) \
&= (1-2t)^{-\frac{n}{2}}
\end{aligned}
$$
こちらの方法でも、同じ結果を導くことができました。
まとめとおまけ：積率母関数の使い道
今回は、自由度$n$のカイ二乗分布の積率母関数を2つの方法で求めました。
- 最も簡単な方法：カイ二乗分布の「標準正規分布の二乗和」という定義を利用し、自由度1の場合をn乗する方法。
- 別の方法：確率密度関数から直接積分し、ガンマ関数の定義を利用する方法。
どちらの方法でも $M_X(t) = (1-2t)^{-\frac{n}{2}}$ という結果が得られました。
ちなみに、積率母関数を $t$ で微分して $t=0$ を代入すると、その分布のモーメント（平均や分散の計算に必要な値）を求めることができます。
- 平均 $E[X] = M_X'(0)$
- 分散 $V[X] = M_X''(0) - (M_X'(0))^2$
実際に計算してみると、
$M_X'(t) = n(1-2t)^{-\frac{n}{2}-1}$ より、平均は $E[X] = M_X'(0) = n$。
$M_X''(t) = n(n+2)(1-2t)^{-\frac{n}{2}-2}$ より、$E[X^2] = M_X''(0) = n(n+2)$。
よって分散は $V[X] = n(n+2) - n^2 = 2n$ となります。
このように、積率母関数は分布の重要な特性を明らかにするための強力なツールです。
この記事が、カイ二乗分布への理解を深める一助となれば幸いです。
Qiita関連記事
その他関連記事