【確率】モーメント母関数が、「モーメントの母関数」であることを理解する

#この記事で書いたこと
モーメント母関数が、「モーメントの母関数」であることを導きます。

#はじめに

連続確率変数$X$に対して、モーメント母関数は

M_X(t) = E \left[ e^{Xt} \right]

で定義されます。
この確率変数の確率密度関数$f(x)$を有する場合、モーメント母関数は

M_X(t) = \int_{-\infty}^{\infty} e^{xt} f(x) dx

とも書けます。

モーメント母関数は確率分布と一対一対応しているので、確率分布の性質を論ずる時に便利であったり、
M次の原点のまわりのモーメントを簡単な微分演算で導出できるので重宝されます。

さて、ここからが本題なのですが、多くの解説サイトでは、モーメント母関数が「モーメントの母関数である」ことを、下記のように解説しています。

モーメント母関数を$t$で$m$回微分してから$t=0$を代入すると$m$次のモーメントを求められる

引用：モーメント母関数の定義と使い方。モーメント母関数から期待値と分散を求めてみよう

こういった解説は、モーメント母関数の定義式から与えられる性質なので正しいのですが、正直私にはピンと来ませんでした。
確かにこの性質はモーメント母関数が、正真正銘モーメントの母関数であることから成り立つのでしょう。
しかし、もっと直接的に、「モーメントの母関数」を愚直に変形していけばモーメント母関数の定義式$M_X(t) = E \left[ e^{Xt} \right]$が導かれることを示してほしいのです。
ネット記事ではそのような記事は見つけられなかったので、書きました。

確率のモーメント

まず確率のモーメントをおさらいします。確率変数$X$の原点のまわりの（１次）モーメントは

m_1 = E \left[ x  \right] = \int_{-\infty}^{\infty} x f(x) dx

で与えられます。モーメントという言葉は力学のモーメントとは無関係ではなく、距離$x$と力$f(x)$のそれと同一であるように見えるのは重要なことです。
n次のモーメントは

m_n = E \left[ x^n  \right] = \int_{-\infty}^{\infty} x^n f(x) dx

と書けます。¹

母関数

次に母関数のおさらいをします。

通常型母関数

ある数列$\{a_n\}$の通常型母関数は

A(t) = \sum_{x=0}^{\infty} a_n t^n

と表します。この母関数は数列と一対一対応なので、数列の性質を論ずる時に便利です。

ここで、例えば全ての$n$で$a_n = 1$であるとき、母関数は

A(t) = 1+t+t^2+\cdots = \frac{1}{1-t}

と閉じた形に収束します。
しかし、$a_n$が非線形的に増加する場合、すなわち$a_n$の収束半径が広い場合、$A(t)$は収束せず閉じた形になりません。
この場合、指数型母関数を使うことで解決できる場合があります。

指数型母関数

ある数列$\{a_n\}$の指数型母関数は

A(t) = \sum_{x=0}^{\infty} a_n \frac{t^n}{n!}

と表します。
分母に$n$の階乗項があるのでより広い収束半径の数列も閉じた形になります。

モーメントの母関数

それでは本題です。モーメントの母関数$A(t)$は以下のように書けます。
n次のモーメントを数列$a_n$は

a_n =  E \left[ x^n  \right]

と表され、この指数型母関数$A(t)$は

A(t) = \sum_{n=0}^{\infty} E \left[ x^n  \right]\frac{t^n}{n!}

と表せます。
平均値の性質を利用すれば、

\begin{align}
A(t) &= \sum_{n=0}^{\infty} E \left[ x^n  \right]\frac{t^n}{n!} \\
&= E \left[ \sum_{n=0}^{\infty} x^n \frac{t^n}{n!} \right] \\
&= E \left[ \sum_{n=0}^{\infty} \frac{(tx)^n}{n!} \right]
\end{align}

と変形できます。ここで、$e^x$の0のまわりのテイラー展開を思い出すと、収束半径$\infty$で、

e^x = \sum_{n=0}^{\infty} \frac{x^n}{n!}

であるので、先ほどの式は、

\begin{align}
A(t) &= E \left[ \sum_{n=0}^{\infty} \frac{(tx)^n}{n!} \right]　\\
&= E \left[ e^{tx} \right]
\end{align}

と変形できます。これは冒頭で定義した$M_X(t)$と一致します！

#おわりに
モーメント母関数は、嘘偽りなく「モーメントの母関数」であることを示せました。
便利な関数なので、その意味や裏付けを知ることはとても有意義ですね。
この他に、離散確率変数の確率母関数なども勉強すると理解が深まります。

1. 余談ですが、モーメントの考え方を分散に当てはめれば、分散$V[X] = E \left[ (x-\mu)^2 \right]$は平均まわりの2次モーメントにすぎません。 ↩