はじめに
この記事は統計検定準一級及び一級の合格に向けて作成されたものです。
期待値・分散・積率母関数の定義
$f(x)$が確率密度関数、つまり$\int_{-\infty}^{\infty}f(x)dx=1$が成り立つとする。
このとき、$X$~$f(x)$とかく。
期待値 E[X]
$E[X] = \int_{-\infty}^{\infty}xf(x)dx$
分散 V[X]
$V[X]=E[(X-E[X])^2]=\int_{-\infty}^{\infty}(x-E[x])^2f(x)dx$
積率母関数 M(t)
$M(t)=E[e^{tX}]=\int_{-\infty}^{\infty}e^{tx}f(x)dx$
積率母関数の使い道
積率母関数と確率分布は1対1対応
ある確率分布の積率母関数は固有の関数であり別の確率分布と被ることはない、逆にある積率母関数に対応する確率分布も固有の密度関数であり、両者の1対1対応が成り立つ。
そこで、例えば$X$~$f(x)$,$Y$~$g(y)$のときX+Yが従う確率分布を求めたいとき、直接2変数の変数変換を用いてその分布を求める方法があるが一般的にその計算は複雑となる。
そこでそれぞれの積率母関数について考えてみるとX+Yの積率母関数は
$$M_{X+Y}(t)=E[e^{(X+Y)t}]=E[e^{Xt}]E[e^{Yt}]=M_X(t)M_Y(t)$$
より求まる。そうして求まったX+Yの積率母関数に1対1対応する確率分布が求めたい確率分布となる。この方法は容易に計算できる。
積率母関数を用いた期待値・分散の導出
$M'(t)=E[Xe^{tX}], M''(t)=E[X^2e^{tX}]$より
$$M'(0)=E[X], M''(0)=E[X^2] \tag{1}$$
という関係が成り立ちます。さらに
$$V[X]=E[(X-E[X])^2]=E[X^2-2XE[X]+E[X^2]]=E[X^2]-2E[X]^2+E[X]^2=E[X^2]-E[X]^2 \tag{2}$$
となるので
$$E[X] = M'(0) \tag{3}$$
$$V[X] = M''(0)-M'(0)^2 \tag{4}$$
となります。
連続確率分布一覧と平均・分散・積率母関数
| 分布名 | f(x) | xの値域 | E[x] | V[x] | M(t) |
|---|---|---|---|---|---|
| 正規分布$N(\mu,\sigma^2)$ | $\sqrt{2\pi \sigma^2}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$ | $[-\infty, \infty]$ | $\mu$ | $\sigma^2$ | $e^{\mu t + \frac{\sigma^2 t^2}{2}}$ |
| 指数分布$Exp(\lambda)=Ga(1,\frac{1}{\lambda})$ | $\lambda e^{-\lambda x}$ | $[0, \infty]$ | $\frac{1}{\lambda}$ | $\frac{1}{\lambda^2}$ | $(1-\lambda t)^{-1}$ |
| 連続一様分布$U(a,b)$ | $\frac{1}{b-a}$ | $[a,b]$ | $\frac{a+b}{2}$ | $\frac{(b-a)^2}{12}$ | $\frac{e^{bt}-e^{at}}{(b-a)t}$ |
| ベータ分布$Be(\alpha,\beta)$ | $\frac{1}{B(\alpha,\beta)}x^{\alpha-1}(1-x)^{\beta-1}$ | $[0,1]$ | $\frac{a+b}{2}$ | $\frac{(b-a)^2}{12}$ | 省略 |
| ガンマ分布$Ga(s,\frac{1}{r})$ | $\frac{r^s}{\Gamma(s)}x^{s-1}e^{-rx}$ | $[0,\infty]$ | $\frac{s}{r}$ | $\frac{s}{r^2}$ | $(1-\frac{1}{r}t)^{-s}$ |
| カイ二乗分布$\chi^2(n)=Ga(2,\frac{n}{2})$ | $\frac{2^{\frac{n}{2}}}{\Gamma(\frac{n}{2})}x^{\frac{n}{2}-1}e^{-\frac{x}{2}}$ | $[0,\infty]$ | $n$ | $2n$ | $(1-\frac{2}{n}t)^{-2}$ |
| t分布$t(n)$ | $\frac{\Gamma(\frac{n+1}{2})}{\sqrt{\pi n}\Gamma(\frac{n}{2})}(1+\frac{x^2}{n})^{-\frac{n+1}{2}} $ | $[-\infty,\infty]$ | $0$ | $\frac{n}{n-2}$ | 省略 |
| F分布$F(n_1,n_2)$ | $\frac{n_1^{\frac{n_1}{2}}n_2^{\frac{n_2}{2}}}{B(\frac{n_1}{2},\frac{n_2}{2})}\frac{x^{\frac{n_1}{2}-1}}{(n_2+n_1 x)^{\frac{n_1+n_2}{2}}}$ | $[0,\infty]$ | $\frac{n_2}{n_2-2}$ | $2{(\frac{n_2}{n_2-2})}^2\frac{n_1+n_2-2}{n_1(n_2-4)}$ | 省略 |