この記事で解説すること

以下の代表的な離散確率分布における、期待値・分散・確率母関数・モーメント母関数の導出について途中式を省略することなくまとめます。辞書的に参考にしてくれたら嬉しいです。

離散一様分布
ベルヌーイ分布
二項分布
ポアソン分布

幾何分布、負の二項分布、超幾何分布、多項分布編については下記の記事で解説しています。

離散一様分布

定義

確率変数$X$が$1,2,3,\ldots,n$の等確率でとるとき、つまり
$$P(X=1)=P(X=2)=\cdots=P(X=n)=\frac{1}{n}$$
であるとき、確率変数$X$は離散一様分布に従うという。

期待値

\begin{align}
E[X] & = \sum_{x=1}^{n} x P(X=x) \\
& = \sum_{x=1}^{n} x \frac{1}{n} \\
& = \frac{1}{n} \sum_{x=1}^{n} x \\
& = \frac{1}{n} \cdot \frac{n(n+1)}{2} \ (\because 連続する自然数の和の公式）\\
& = \frac{n+1}{2}
\end{align}

分散

まず$E[X^2]$を求める。

\begin{align}
E[X^2] & = \sum_{x=1}^{n} x^2 P(X=x) \\
& = \sum_{x=1}^{n} x^2 \frac{1}{n} \\
& = \frac{1}{n} \sum_{x=1}^{n} x^2 \\
& = \frac{1}{n} \cdot \frac{n(n+1)(2n+1)}{6} \ \ (\because 自然数の二乗の和の公式）\\
& = \frac{(n+1)(2n+1)}{6}
\end{align}

したがって分散は、

\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = \frac{(n+1)(2n+1)}{6} - (\frac{n+1}{2})^2 \\
& = \frac{2(n+1)(2n+1) - 3(n+1)^2}{12} \\
& = \frac{n^2-1}{12}
\end{align}

確率母関数

\begin{align}
G_X(s) & = E[s^X] \\
& = \sum_{x=1}^{n} s^x P(X=x) \\
& = \sum_{x=1}^{n} s^x \frac{1}{n} \\
& = \frac{1}{n}(s + s^2 + \cdots + s^n) \\
& = \frac{1}{n} \cdot \frac{s(1-s^n)}{1-s} \ (\because 等比数列の和の公式) \\
& = \frac{s(1-s^n)}{n(1-s)}
\end{align}

モーメント母関数

確率母関数において、$s=e^t$と置くことで、

\begin{align}
M_X(t) & = G_X(e^t) \\
& = \frac{e^t(1-e^{tn})}{n(1-e^t)}
\end{align}

と求められる。

ベルヌーイ分布

定義

成功確率$p$の試行に対して、「成功」なら1、「失敗」なら0をとるような確率変数$X$を考える。このとき確率変数$X$は成功確率$p$のベルヌーイ分布に従うという。なお、ベルヌーイ分布の確率関数は以下のように表せる。
$$ P(X=x) = p^x(1-p)^{1-x} \ \ (x=0,1)$$

期待値

\begin{align}
E[X] & = 0 \cdot (1-p) + 1 \cdot p \\
& = p
\end{align}

分散

まず、$E[X^2]$を計算する。

\begin{align}
E[X^2] & = 0^2 \cdot (1-p) + 1^2 \cdot p \\
& = p
\end{align}

したがって、分散は

\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = p - p^2 \\
& = p(1-p)
\end{align}

確率母関数

\begin{align}
G_X(s) & = E[s^X] \\
& = s^0 \cdot (1-p) + s^1 \cdot p \\
& = 1 - p + sp
\end{align}

モーメント母関数

確率母関数において、$s=e^t$と置くことで、

\begin{align}
M_X(t) & = G_X(e^t) \\
& = 1 - p + e^tp
\end{align}

と求められる。

二項分布

定義

表が出る確率が$p$であるコインを$n$回投げたとき、表の出る回数を$X$とすると、確率変数$X$は二項分布に従うといい、$X \sim B(n,p)$と表現する。なお、確率関数は以下ように表現できる。

\begin{align}
P(X=x) & = \binom{n}{x} p^x (1-p)^{n-x}
\end{align}

なお、$\binom{n}{x}$は二項係数を表す。$_n C _x$のように表記することもできる。

期待値

\begin{align}
E[X] & = \sum_{x=0}^{n} x P(X=x) \\
& = \sum_{x=0}^{n} x \binom{n}{x} p^x (1-p)^{n-x} \\
& = \sum_{x=0}^{n} x \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} x \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \ (x=0のときは次式の式変形が成り立たない)\\
& = \sum_{x=1}^{n}　\frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \\
& = np \sum_{x=1}^{n}　\frac{(n-1)!}{(x-1)!(n-x)!} \ p^{x-1} (1-p)^{n-x} \\
& = np \sum_{x=1}^{n} \binom{n-1}{x-1} p^{x-1} (1-p)^{(n-1)-(x-1)} \\
& = np \sum_{y=0}^{n-1} \binom{n-1}{y} p^{y} (1-p)^{(n-1)-y} \ (\because y=x-1とおいた) \\
& = np \ (\because B(n-1, p)の全確率は1)
\end{align}

なお、二項分布の期待値は定義通りに計算すると、上記のように少々煩雑ですが、確率母関数やモーメント母関数を用いて計算すると、簡単に求められます。

分散

まず、$E[X^2]$を計算する。

\begin{align}
E[X^2] & = \sum_{x=0}^{n} x^2 P(X=x) \\
& = \sum_{x=0}^{n} x^2 \binom{n}{x} p^x (1-p)^{n-x} \\
& = \sum_{x=0}^{n} x^2 \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} x^2 \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} x \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} \{(x-1)+1\} \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \ (x=x-1+1と書き換えた)\\
& = \sum_{x=1}^{n} (x-1) \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} + \sum_{x=1}^{n} \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \\
& = np \sum_{x=1}^{n} (x-1) \frac{(n-1)!}{(x-1)!(n-x)!} \ p^{x-1} (1-p)^{n-x} + np \ (\because 第二項は期待値の計算と同じ)\\
& = np \sum_{y=0}^{n-1} y \frac{(n-1)!}{y!(n-1-y)!} \ p^y (1-p)^{n-1-y} + np \ (\because y=x-1とおいた) \\
& = np \sum_{y=0}^{n-1} y \binom{n-1}{y} \ p^y (1-p)^{n-1-y} + np \\
& = np \cdot (n-1)p + np \ (\because B(n-1,p)の期待値は(n-1)p) \\
& = np(np-p+1)
\end{align}

したがって、分散は

\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = np(np-p+1) - (np)^2 \\
& = -np^2 + np \\
& = np(1-p)
\end{align}

分散の計算も期待値と同様に、確率母関数やモーメント母関数を用いた方が、簡潔に求められます。

確率母関数

\begin{align}
G_X(s) & = E[s^X] \\
& = \sum_{x=1}^{n} s^x P(X=x) \\
& = \sum_{x=0}^n s^x \binom{n}{x} p^x (1-p)^{n-x} \\
& = \sum_{x=0}^n \binom{n}{x} (sp)^x (1-p)^{n-x} \\
& = (sp + 1 - p)^n \ (\because 二項定理)
\end{align}

モーメント母関数

確率母関数において、$s=e^t$と置くことで、

\begin{align}
M_X(t) & = G_X(e^t) \\
& = (e^tp + 1 - p)^n
\end{align}

と求められる。

ポアソン分布

定義

非負定数$\lambda$に対し、確率変数$X$が次の確率関数を持つとき、確率変数$X$はポアソン分布に従うといい、$X \sim Po(\lambda)$と表現する。

\begin{align}
P(X=x) = \frac{\lambda^x}{x!} e^{-\lambda} \ (x=0,1,2,\ldots)
\end{align}

期待値

\begin{align}
E[X] & = \sum_{x=0}^{\infty} x P(X=x) \\
& = \sum_{x=0}^{\infty} x \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} x \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} \frac{\lambda^x}{(x-1)!} e^{-\lambda} \\
& = \lambda \sum_{x=1}^{\infty} \frac{\lambda^{x-1}}{(x-1)!} e^{-\lambda} \\
& = \lambda \sum_{y=0}^{\infty} \frac{\lambda^{y}}{y!} e^{-\lambda} \ (y=x-1とおいた) \\
& = \lambda \ (\because 全確率は1)
\end{align}

分散

まず、$E[X^2]$を計算する。

\begin{align}
E[X^2] & = \sum_{x=0}^{\infty} x^2 P(X=x) \\
& = \sum_{x=0}^{\infty} x^2 \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} x^2 \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} x \frac{\lambda^x}{(x-1)!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} \{(x-1)+1\} \frac{\lambda^x}{(x-1)!} e^{-\lambda} \ (x = (x-1)+1と書き換えた)\\
& = \sum_{x=1}^{\infty} (x-1) \frac{\lambda^x}{(x-1)!} e^{-\lambda} + \sum_{x=1}^{\infty} \frac{\lambda^x}{(x-1)!} e^{-\lambda} \\
& = \sum_{x=2}^{\infty} (x-1) \frac{\lambda^x}{(x-1)!} e^{-\lambda} + \lambda \sum_{x=1}^{\infty} \frac{\lambda^{x-1}}{(x-1)!} e^{-\lambda} \\
& = \lambda^2 \sum_{x=2}^{\infty} \frac{\lambda^{x-2}}{(x-2)!} e^{-\lambda} + \lambda \sum_{x=1}^{\infty} \frac{\lambda^{x-1}}{(x-1)!} e^{-\lambda} \\
& = \lambda^2 + \lambda \ (\because 第一項、第二項のΣについて、全確率が1であることより)
\end{align}

したがって、分散は

\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = \lambda^2 + \lambda - \lambda^2 \\
& = \lambda
\end{align}

確率母関数

\begin{align}
G_X(s) & = E[s^X] \\
& = \sum_{x=1}^{n} s^x P(X=x) \\
& = \sum_{x=0}^{\infty} s^x \frac{\lambda^x}{x!} e^{-\lambda} \\
& = e^{-\lambda} \sum_{x=0}^{\infty} \frac{(s\lambda)^x}{x!} \\
& = e^{-\lambda} \cdot e^{s\lambda} \ (\because マクローリン展開の公式)\\
& = e^{\lambda(s-1)}
\end{align}

モーメント母関数

確率母関数において、$s=e^t$と置くことで、

\begin{align}
M_X(t) & = G_X(e^t) \\
& = e^{\lambda(e^t-1)}
\end{align}

と求められる。

参考文献