目次と前回の記事
Python のバージョンとこれまでに作成したモジュール
本記事のプログラムは Python のバージョン 3.13 で実行しています。また、numpy のバージョンは 2.3.5 です。
| リンク | 説明 |
|---|---|
| marubatsu.py | Marubatsu、Marubatsu_GUI クラスの定義 |
| ai.py | AI に関する関数 |
| mbtest.py | テストに関する関数 |
| util.py | ユーティリティ関数の定義 |
| tree.py | ゲーム木に関する Node、Mbtree クラスなどの定義 |
| gui.py | GUI に関する処理を行う基底クラスとなる GUI クラスの定義 |
AI の一覧とこれまでに作成したデータファイルについては、下記の記事を参照して下さい。
点推定
前回の記事で紹介した 推計統計学 の 分類の一つ に、標本の特徴 を表す 統計量 から 母集団の特徴 を表す 母数を推測 するというものがあります。例えば、以前の記事で紹介した モンテカルロ法による円周率の近似値の計算 アルゴリズムは、下記のように 標本平均 から 母平均を推定 するという、点推定 による手法です。
- 母集団 は原点を中心とする 辺の長さが 2 の 正方形内の点を表す集合 で、正方形に内接する半径が 1 の 円の内部にある点を 1、外部にある点を 0 とする 無限母集団
- 母集団の 母平均 は、正方形の面積 に対する 内接円の面積の割合 である $\boldsymbol{\frac{π}{4}}$ となる
- 母集団から いくつかの要素を無作為に抽出 する
- 得られた標本の 標本平均 を求め、それを 母数の近似値 として 推定 する（点推定）
- 標本平均を 4 倍 した値 円周率の近似値 とする
この 点推定 は 標本サイズが大きくなる ほど 標本平均 が 母平均に近づく確率が高くなる という 大数の法則 に基づいています。そのことを示すためには、標本平均の性質 を知る必要があります。そこで、今回の記事では 標本平均の性質 について説明します。
参考までに 点推定 の Wikipedia のリンクを下記に記します。
点推定に対して、母数の区間を推測する手法を区間推定と呼びます。また、区間推定から母集団が特定の分布に従っていることを検証することを仮説検定と呼びます。
標本平均の性質
標本平均 は 母集団 から 無作為に抽出 を行った 標本の平均 です。標本の各要素の値 は 母集団の確率分布 を表す 母集団分布 に ランダムな値 になるので、ランダムな値の平均 によって計算される 標本平均 も同様に ランダムな値 になります。このことから、標本平均がどのような値をとるか は 確率によって決まる ため、標本平均そのもの を 確率変数 と考えることができます。
標本抽出によって 実際に得られた標本 の 標本平均 は計算によって 具体的な値 が得られますが、まだ実際に行われていない、今後に行う標本抽出 によって得られる標本の 標本平均 は、サイコロを振った時の出目のように ランダムな値 になります。
標本平均 を 確率変数 と考えた場合に、標本平均が従う確率分布 は、元の母集団の確率分布 とは 異なるもの になります。そのことを具体例を挙げて説明します。
前回の記事に引き続き、今回の記事で扱う確率変数は 離散型確率変数 であるものとします。
例えば 偏りのないコインを 1 回投げた時 の 確率変数 $\boldsymbol{X}$ を 表が出た場合は 0、裏が出た場合は 1 とすると、その 確率分布 は下記の表ようになります。
| 確率変数 $X$ | 0 | 1 |
|---|---|---|
| 確率 | 1/2 | 1/2 |
また、このコインを投げた時の結果 を要素として持つ 母集団の母平均 $\boldsymbol{μ}$ は前回の記事で説明した下記の 母平均の計算の式 の計算結果から 1/2 となります。
$\boldsymbol{μ = E[X] = \sum_{x} xP(X=x) = 0 × 1/2 + 1 × 1/2 = 1/2}$
下記は上記の式と同じ計算を行う Python のプログラムです。$\boldsymbol{\sum_{x}}$ がわかりづらいと思った方は、$\boldsymbol{\sum_{x}}$ を for 文による X のすべての要素に対する繰り返し処理と考えれば意味がわかりやすくなるのではないでしょうか。
X = [0, 1] # X がとりうる値を表す list
P = [1/2, 1/2] # X が従う確率分布を表す list
total = 0
for x in X:
total += x * P[x]
print(total)
実行結果
0.5
このコインを 2 回投げた値の平均 は、上記の確率分布 の 母集団 から 2 回無作為抽出 を行った値を集めた 標本 の 標本平均 です。下記は 1 回目と 2 回目 のコインの 裏表の値 と、その 標本平均 を表す表です。
| 1 回目 | 2 回目 | 標本平均 |
|---|---|---|
| 0 | 0 | 0 |
| 0 | 1 | 0.5 |
| 1 | 0 | 0.5 |
| 1 | 1 | 1 |
また、コインを複数回投げる などの 同一の母集団 から 無作為に複数回の復元抽出 を行うという処理は前回の記事で説明した下記の 独立同分布 の性質を満たします。そのうちの 独立性の性質 から、上記の 4 種類のそれぞれの 事象が起きる確率 はいずれも 1 回目の事象が起きる確率 × 2 回目の事象が起きる確率 になります。従って、上記の 4 種類の事象 はいずれも 1/2 × 1/2 = 1/4 の確率で発生 します。
- 毎回のコインを投げた際の表裏が出る確率が 同じ確率分布に従う という 同一性 の性質を持つ
- ある回にコインを投げた結果が 別の回にコインを投げた結果に影響しない という 独立性 の性質を持つ
従って、標本平均 の それぞれの値 の 発生確率 をまとめると以下のようになります。
| 標本平均 | 0 | 0.5 | 1 |
|---|---|---|---|
| 確率 | 1/4 | 1/2 | 1/4 |
上記の表から、標本平均 は 0、0.5、1 という値をとり、それぞれの値 に 合計が 1 となる確率が割り当てられている ので 確率変数とみなすことができる ことがわかります。なお、上記の表 は 標本平均を確率変数 とした場合の 確率分布 を表します。また、標本平均の確率分布 が、元の 母集団の確率分布 とは 異なる確率分布 になっていることも確認できます。
標本平均を表す確率変数
標本平均が従う確率分布 が 元の母集団の確率分布 と 異なる ことから、標本平均を表す確率変数 を元の母集団の確率分布の 確率変数 $\boldsymbol{X}$ とは異なる記号で表記 する必要があります。確率変数 $\boldsymbol{X}$ が従う母集団分布から抽出された標本の 標本平均 を表す 確率変数 は一般的に 平均を表す横棒を上部につけた $\boldsymbol{\bar{X}}$ という 記号で表記 されるので、本記事でもその記号を採用することにします。
標本抽出 を行う際には、母集団から抽出を行う 要素の数 を表す 標本サイズ を決める必要があります。今回の記事の説明では 標本サイズは何でも構わない ので、標本サイズ を 任意の自然数 を表す $\boldsymbol{n}$ と表記することにします。
標本平均 を表す 確率変数 $\boldsymbol{\bar{X}}$ の 実現値 $\boldsymbol{\bar{x}}$ は、確率変数 $\boldsymbol{X}$ が従う母集団分布から $\boldsymbol{n}$ 個の要素 を 無作為に抽出 した場合の $\boldsymbol{X}$ の 実現値 $\boldsymbol{x_1}$、$\boldsymbol{x_2}$、・・・、$\boldsymbol{x_n}$ の 平均 であり、前回の記事で説明した 下記の式で計算 することができます。
$\boldsymbol{\bar{x} = \frac{1}{n}\sum_{i=1}^{n} x_i}$
この式から 確率変数 $\boldsymbol{\bar{X}}$ の 実現値 が 確率変数 $\boldsymbol{X}$ の $\boldsymbol{n}$ 個の実現値 を $\boldsymbol{\frac{1}{n}}$ したものの 合計 であることがわかります。このような確率変数を 式で定義 する方法について説明します。
確率変数の一次変換
確率変数 $\boldsymbol{X}$ に対して $\boldsymbol{a ≠ 0}$ を満たす 任意の実数 $\boldsymbol{a}$、$\boldsymbol{b}$ を用いた 下記の式 によって 新しい確率変数 $\boldsymbol{Y}$ を定義する ことを 確率変数の一次変換 と呼びます。
$\boldsymbol{Y = aX + b}$
今回の記事では扱いませんが $\boldsymbol{Y = h(X)}$2 のように、$\boldsymbol{X}$ に関する関数 を用いて 新しい確率変数を定義 することを、確率変数の変換 と呼びます。例えば $\boldsymbol{Y = aX^2 + bX + c}$ などが考えられます。従って、確率変数の一次変換は、確率変数の変換の一種です。
詳細は長くなるので省略しますが、確率変数の一次変換は行列の一次変換と本質的に同様の計算が行われるためそのような名称がついているようです。
上記の式は、確率変数 $\boldsymbol{X}$ を $\boldsymbol{a}$ 倍 して $\boldsymbol{b}$ を足した ものを 確率変数 $\boldsymbol{Y}$ とするという意味を表します。従って、離散型確率変数 の場合の 確率変数 $\boldsymbol{Y}$ が とりうる値 は 確率変数 $\boldsymbol{X}$ が とりうるそれぞれの値 を $\boldsymbol{a}$ 倍 して $\boldsymbol{b}$ を足した 値になります。
例えば、$\boldsymbol{X}$ が サイコロの出目 を表す 確率変数 の場合に $\boldsymbol{Y = 2X + 1}$ で 一次変換された確率変数 $\boldsymbol{Y}$ は、下記の表のように サイコロの出目 を それぞれ 2 倍して 1 を足した値 を取る 確率変数 になります。また、出目を表す数字 を 別の数字に 1 対 1 に対応するように付け替えただけ なので、下記の表のように 対応する値の確率 は 変化しません。
| 確率変数 $\boldsymbol{X}$ | 1 | 2 | 3 | 4 | 5 | 6 |
|---|---|---|---|---|---|---|
| 確率変数 $\boldsymbol{Y}$ | 3 | 5 | 7 | 9 | 11 | 13 |
| 確率 | 1/6 | 1/6 | 1/6 | 1/6 | 1/6 | 1/6 |
$a ≠ 0$ という条件は、対応する数値が 1 対 1 に対応するようにするためです。
確率質量関数と期待値
上記の表から、確率変数 $\boldsymbol{X}$ の実現値を $\boldsymbol{x}$ とした場合の 確率 を表す $\boldsymbol{P(X=x)}$ は、確率変数 $\boldsymbol{Y}$ の実現値が $\boldsymbol{ax+ b}$ である場合の確率を表す $\boldsymbol{P(Y=ax+b)}$ と等しくなることがわかります。
従って、$\boldsymbol{Y = aX + b}$ によって定義された 確率変数 $\boldsymbol{Y}$ の 実現値 を $\boldsymbol{y}$ と表記 した場合の $\boldsymbol{Y}$ が従う確率分布の 確率質量関数 は下記のようになります。
$\boldsymbol{P(Y=y) = P(X=x)}$、ただし $\boldsymbol{y = ax + b}$
また、上記の式を前回の記事で説明した 確率変数の期待値を計算する式 に当てはめることで、確率変数 $\boldsymbol{Y}$ の期待値を求める ことができます。
$\boldsymbol{E(Y) = \sum_{y} yP(Y=y)}$
この式に $\boldsymbol{y = ax + b}$ と $\boldsymbol{P(Y=y) = P(X=x)}$ を 当てはめる と下記の式のようになります。なお、$\boldsymbol{\sum_{y}}$ は すべての $\boldsymbol{y}$ に対する合計を計算するという意味を持ちますが、先程の表からもわかるように 確率変数 $\boldsymbol{Y}$ がとりうる値 と 確率変数 $\boldsymbol{X}$ がとりうる値 は $\boldsymbol{y = ax + b}$ という式によって 1 対 1 に対応 するので、$\boldsymbol{\sum_{y}}$ を $\boldsymbol{\sum_{x}}$ に置き換える ことができます。
$\boldsymbol{E(Y) = \sum_{x} (ax+b)P(X=x)}$
次に、$\boldsymbol{(ax + b)}$ の括弧を外して 式を展開 すると下記のようになります。
$\boldsymbol{E(Y) = \sum_{x} axP(X=x) + \sum_{x} bP(X=x)}$
$\boldsymbol{a}$ と $\boldsymbol{b}$ は 定数 なので $\boldsymbol{\sum{}}$ の外側に移動することができるので下記のようになります。
$\boldsymbol{E(Y) = a\sum_{x} xP(X=x) + b\sum_{x} P(X=x)}$
$\boldsymbol{\sum_{x} xP(X=x) = E(X)}$、すべての事象の確率の合計は 1 なので $\boldsymbol{\sum_{x} P(X=x) = 1}$ が成り立つので上記の式は下記のようになります。
$\boldsymbol{E(Y) = aE(X) + b}$
上記をまとめると以下のようになります。
任意の 確率変数 $\boldsymbol{X}$ と、$\boldsymbol{a ≠ 0}$ を満たす 任意の実数 $\boldsymbol{a}$、$\boldsymbol{b}$ に対して下記の式が成り立つ。
$\boldsymbol{E(aX+b) =aE(X) + b}$
上記の式は下記のことから直観的にも理解しやすいのではないかと思います。
- $Y = aX + b$ の $aX$ は $X$ のすべての実現値を $a$ 倍することを表すので $Y$ の期待値も $a$ 倍される
- $Y = aX + b$ の $b$ は $X$ のすべての実現値に $b$ を加算することを表すので $Y$ の期待値も $b$ 増える
互いに独立した確率変数の和
2 つ以上の確率変数 を用いて 1 つの確率変数を計算 することを 確率変数の合成 と呼びます。本記事ではその中の 互いに独立した確率変数の和 について説明します。なお、互いに独立した とは、すべての確率変数 が 他の確率変数と独立 していることを表します。
2026/05/09 追記：
今回の記事では独立した確率変数の和について説明していますが、実際には 確率変数が独立していなくても今回の説明の内容は成り立ちます。そのことは次回の記事で説明します。
確率変数の独立の条件が必要 なのは下記の 確率変数の積の期待値の式 で、恥ずかしながらこちらと勘違いしていました。
$\boldsymbol{E[XY] = E[X]E[Y]}$
2 つの独立した確率変数の和
最初に 2 つの独立した確率変数の和 について説明します。
互いに独立 した 確率変数 $\boldsymbol{X}$ と $\boldsymbol{Y}$ に対して下記の式で $\boldsymbol{Z}$ という 新しい確率変数を定義 することを 確率変数の和 と呼びます。確率変数 $\boldsymbol{Z}$ の実現値 は $\boldsymbol{X}$ と $\boldsymbol{Y}$ に従う確率分布 からそれぞれ 1 回ずつ抽出を行って 得られた実現値を合計 した値です。
$\boldsymbol{Z = X + Y}$
$\boldsymbol{X}$ と $\boldsymbol{Y}$ が 同じ確率分布に従っていても構いません が、その場合は 2 つの独立した同一の確率分布 から それぞれから 1 回ずつ抽出を行う ことを明確にするために $\boldsymbol{Y = X_1 + X_2}$ のように 同じ大文字の記号に添字を記載 するのが一般的です。
なお、$\boldsymbol{Y= X + X}$ のように 同じ記号を記述 してしまうと、Y の実現値 が 1 回の抽出 によって得られた X の実現値を足して 2 倍 するという意味になります。従って、$\boldsymbol{Y= X + X}$ は確率変数の和ではなく、$\boldsymbol{Y= 2X}$ という先程説明した 確率変数の一次変換 という、全く異なる計算 を表すことになるので 混同しないように注意 して下さい。
本記事ではそのような計算を行いませんが、同様の考え方で$Z=XY$ のような確率変数の積などを計算することもできます。
確率質量関数
互いに独立した 2 つの確率変数の和 によって定義された 確率変数 $\boldsymbol{Z}$ の 確率質量関数 を計算する方法について、具体例として 異なる確率 で表裏が出る 2 枚のコインを投げた場合 を例に挙げながら説明します。
下記の表は それぞれのコインを投げた結果 を表す 確率変数 $\boldsymbol{X}$ と $\boldsymbol{Y}$ の 確率分布 を表す表です。先ほどと同様に表が出た場合を 0、裏が出た場合を 1 とします。
| 確率変数 $X$ | 0 | 1 |
|---|---|---|
| 確率 | 1/2 | 1/2 |
| 確率変数 $Y$ | 0 | 1 |
|---|---|---|
| 確率 | 1/3 | 2/3 |
この 2 枚のコインを投げた場合 の 裏が出たコインの数 を表す 確率変数 $\boldsymbol{Z}$ は下記の 確率変数の和 を計算する式で 定義 されます。
$\boldsymbol{Z = X + Y}$
確率変数 $\boldsymbol{Z}$ の実現値 は、確率変数 $\boldsymbol{X}$ と $\boldsymbol{Y}$ の実現値の合計 なので下記の表のようにそれらの すべての組み合わせから計算 することができます。また、2 枚のコインを投げた場合 の それぞれの確率 は 独立 しているので、$\boldsymbol{X}$ の実現値 $\boldsymbol{x}$ と $\boldsymbol{Y}$ の 実現値 $\boldsymbol{y}$ が 同時に発生する確率 $\boldsymbol{P(X=x, Y=y)}$ は、それぞれの確率を乗算 した $\boldsymbol{P(X=x)P(Y=y)}$ で計算できます。下記の表にはその確率も表記しました。
| $\boldsymbol{X}$ の実現値 | $\boldsymbol{Y}$ の実現値 | $\boldsymbol{Z=X+Y}$ の実現値 | 発生確率 |
|---|---|---|---|
| 0 | 0 | 0 | 1/2 ×1/3 = 1/6 |
| 0 | 1 | 1 | 1/2 ×2/3 = 2/6 |
| 1 | 0 | 1 | 1/2 ×1/3 = 1/6 |
| 1 | 1 | 2 | 1/2 ×2/3 = 2/6 |
従って、確率変数 $\boldsymbol{Z}$ の 確率質量関数 は、下記の式で計算されます。なお、$\boldsymbol{\sum_{x+y=z}}$ は $\boldsymbol{x + y = z}$ となる すべての $\boldsymbol{x}$ と $\boldsymbol{y}$ の組み合わせ での 計算結果の合計を計算 することを表します。
$\boldsymbol{P(Z=z) = \sum_{x+y=z} P(X=x)P(Y=y)}$
下記は 上記の式 で $\boldsymbol{Z}$ の 確率質量関数を計算 する式です。
$\boldsymbol{P(Z=0) = \sum_{x+y=0} P(X=x)P(Y=y)}$
$\boldsymbol{= P(X=0)P(Y=0) = 1/6}$
$\boldsymbol{P(Z=1) = \sum_{x+y=1} P(X=x)P(y=y)}$
$\boldsymbol{= P(X=0)P(Y=1) + P(X=1)P(Y=0) = 2/6 + 1/6 = 3/6}$
$\boldsymbol{P(Z=2) = \sum_{x+y=2} P(X=x)P(Y=y)}$
$\boldsymbol{= P(X=1)P(Y=1) = 2/6}$
下記は、上記をまとめた $\boldsymbol{Z}$ が従う確率分布 を表です。
| 確率変数 $\boldsymbol{Z}$ | 0 | 1 | 2 |
|---|---|---|---|
| 確率 | 1/6 | 3/6 | 2/6 |
期待値
次に、下記の式で計算される 確率変数 $\boldsymbol{Z}$ の 期待値 $\boldsymbol{E[Z]}$ を求めることにします。
$\boldsymbol{E[Z] = \sum_{z} zP(Z=z)}$
この式に、先程の式を当てはめると下記のようになりますが、この式を $\boldsymbol{E(X)}$ と $\boldsymbol{E(Y)}$ で表される式 に 変形することは難しい ので 別の考え方で期待値を計算 することにします。
$\boldsymbol{E[Z] = \sum_{z}z(\sum_{x+y=z} P(X=x)P(Y=y))}$
上記の式を先程の 2 枚のコインの例で計算 すると下記のようになります。
$\boldsymbol{E[Z] = \sum_{z}z(\sum_{x+y=z} P(X=x)P(Y=y))}$
$\boldsymbol{= 0 ×(\sum_{x+y=0} P(X=x)P(Y=y))}$
$\boldsymbol{+ 1 ×(\sum_{x+y=1} P(X=x)P(Y=y))}$
$\boldsymbol{+ 2 ×(\sum_{x+y=2} P(X=x)P(Y=y))}$
$\boldsymbol{= 0 × P(X=0)P(Y=0)}$
$\boldsymbol{+ 1 ×(P(X=0)P(Y=1) + P(X=1)P(Y=0))}$
$\boldsymbol{+ 2 × P(X=1)P(Y=1)}$
$\boldsymbol{= 0 × P(X=0)P(Y=0)}$
$\boldsymbol{+ 1 ×P(X=0)P(Y=1)}$
$\boldsymbol{+ 1 × P(X=1)P(Y=0)}$
$\boldsymbol{+ 2 × P(X=1)P(Y=1)}$
上記の 最後の式 は 下記の計算を行う式です。
- 下記の先程の表の $\boldsymbol{X}$ の実現値 と $\boldsymbol{Y}$ の実現値 の すべての組み合わせ に対して下記の計算を行う
- $\boldsymbol{Z}$ の実現値 と その発生確率を乗算した値 を計算する
- 手順 2 で 計算した値の合計 を計算する
| $X$ の実現値 | $Y$ の実現値 | $Z=X+Y$ の実現値 | 発生確率 |
|---|---|---|---|
| 0 | 0 | 0 | 1/2 ×1/3 = 1/6 |
| 0 | 1 | 1 | 1/2 ×2/3 = 2/6 |
| 1 | 0 | 1 | 1/2 ×1/3 = 1/6 |
| 1 | 1 | 2 | 1/2 ×2/3 = 2/6 |
下記は 上記の計算を表す式 で $\boldsymbol{\sum_{x}\sum_{y}}$ は $\boldsymbol{x}$ と $\boldsymbol{y}$ が とりうる値のすべての組み合わせ での 計算結果の合計を計算 するという意味を表します。
$\boldsymbol{E[Z] = \sum_{x}\sum_{y} (x + y)P(X=x)P(Y=y)}$
下記は上記の式と同じ計算を行う Python のプログラムです。ゲーム盤のすべての座標 に対する 繰り返し処理 を 入れ子した for 文 で行えたのと同様に、$\boldsymbol{\sum_{x}\sum_{y}}$ の計算を 2 重の for 文 で行うことができます。
X = [0, 1] # X がとりうる値を表す list
Y = [0, 1] # Y がとりうる値を表す list
PX = [1/2, 1/2] # X の確率分布を表す list
PY = [1/3, 2/3] # Y の確率分布を表す list
total = 0
for x in X:
for y in Y:
total += (x + y) * PX[x] * PY[y]
print(total)
実行結果
1.1666666666666665
上記の式の $\boldsymbol{(x + y)}$ の括弧を外して 式を展開 すると下記のようになります。
$\boldsymbol{E[Z] = \sum_{x}\sum_{y} xP(X=x)P(Y=y) + \sum_{x}\sum_{y} yP(X=x)P(Y=y)}$
次に、この式の 前半部分 である $\boldsymbol{\sum_{x}\sum_{y} xP(X=x)P(Y=y)}$ について考えます。
確率変数 $\boldsymbol{X}$ と $\boldsymbol{Y}$ は 独立している という条件があるので、$\boldsymbol{xP(X=x)}$ は $\boldsymbol{y}$ の値に影響されません。同様に $\boldsymbol{P(Y=y)}$ は $\boldsymbol{x}$ の値に影響されません。このような場合は後で説明する 2 重和の分解の公式 から下記の式が成り立ちます。具体的な証明についても後述します。
$\boldsymbol{\sum_{x}\sum_{y} xP(X=x)P(Y=y) =(\sum_{x} xP(X=x))(\sum_{y} P(Y=y))}$
上記の式に $\boldsymbol{\sum_{x} xP(X=x) = E[X]}$、$\boldsymbol{\sum_{y} P(Y=y) = 1}$ を当てはめると、下記の式が成り立ちます。
$\boldsymbol{\sum_{x}\sum_{y} xP(X=x)P(Y=y) = E[X] × 1 = E[X]}$
先程の式の 後半部分 も同様の理由から下記の式が成り立ちます。
$\boldsymbol{\sum_{x}\sum_{y} yP(X=x)P(Y=y) = (\sum_{x} P(X=x))(\sum_{y} yP(Y=y))}$
$\boldsymbol{= 1 × E[Y] = E[Y]}$
従って、下記の式が成り立ちます。
$\boldsymbol{E[Z] = E[X + Y] = E[X] + E[Y]}$
上記をまとめると以下のようになります。
確率変数 $\boldsymbol{X}$ と $\boldsymbol{Y}$ が 互いに独立 である場合に 下記の式が成り立つ。
（2026/5/10 補足：確率変数が独立でない場合も成り立ちます）
$\boldsymbol{E[X + Y] = E[X] + E[Y]}$
この式は 2 つの独立した確率変数の和 で定義された 確率変数の期待値 が 元の 2 つの確率変数の期待値の和 になるという意味を表します。
3 つ以上の互いに独立した確率変数の和の期待値
次に、下記の式で定義される 3 つの互いに独立 な 確率変数 $\boldsymbol{W}$、$\boldsymbol{X}$、$\boldsymbol{Y}$ の和 で定義される 確率変数 $\boldsymbol{Z}$ の期待値を計算 することにします。
$\boldsymbol{Z = W + X + Y}$
$\boldsymbol{W}$ と $\boldsymbol{X}$ の和 で定義される 確率変数 $\boldsymbol{V = W + X}$ の期待値 は先程説明したように下記の式のようになります。
$\boldsymbol{E(V) = E(W + X) = E(W) + E(X)}$
$\boldsymbol{W}$、$\boldsymbol{X}$、$\boldsymbol{Y}$ は互いに独立 しているので $\boldsymbol{W}$ と $\boldsymbol{X}$ の和で定義される $\boldsymbol{V}$ は $\boldsymbol{Y}$ と独立 しています。このことと、$\boldsymbol{Z = W + X + Y = V + Y}$ であることから、下記の式が成り立ちます。
$\boldsymbol{E(Z) = E(V + Y) = E(V) + E(Y) = E(W) + E(X) + E(Y)}$
このことから 3 つの互いに独立した確率変数の和 で定義された 確率変数の期待値 は、元の 3 つの確率変数の期待値の和 になることがわかりました。
証明は簡単なので説明は省略しますが、数学的帰納法 を用いることで 下記が成り立つ ことがわかります。
$\boldsymbol{n}$ を 任意の自然数 とし、$\boldsymbol{n}$ 個 の 確率変数 $X_1$、$X_2$、・・・、$X_n$ が 互いに独立 な場合に 下記の式が成り立つ。
（2026/5/10 補足：確率変数が独立でない場合も成り立ちます）
$\boldsymbol{E[\sum_{i=1}^{n} X_i] = \sum_{i=1}^{n} E[X_i]}$
この式は 任意の個数の独立した確率変数の和 によって定義された 確率変数の期待値 が 個別の確率変数の期待値の和 になることを表します。
なお、上記の $\boldsymbol{X_i}$ は 他に良い表記がない ため 同じ $\boldsymbol{X}$ という記号を用いて いますが、同じ確率分布に従う必要はありません。
2 重和の分解の公式
先程利用した下記の 2 重和の分解の公式 について説明します。
任意の $\boldsymbol{i}$ と $\boldsymbol{j}$ において、$\boldsymbol{a_i}$ と $\boldsymbol{b_j}$ が独立 している場合に 下記の式 が成り立つ。
$\boldsymbol{\sum_{i=1}^{m}\sum_{j=1}^{n} a_ib_j = (\sum_{i=1}^{m} a_i)(\sum_{j=1}^{n} b_j)}$
上記の式は $a_1$、$a_2$、・・・、$a_m$ と $b_1$、$b_2$、・・・、$b_n$ が 互いに独立して影響を与えない場合 は下記の 2 つの計算結果が等しくなる ことを表します。
- すべての $\boldsymbol{i}$ と $\boldsymbol{j}$ の組み合わせ で $\boldsymbol{a_i}$ と $\boldsymbol{b_j}$ を 一つずつ選んで乗算した値 の 合計
- $a_1$、$a_2$、・・・、$a_m$ の合計 と $b_1$、$b_2$、・・・、$b_n$ の合計 を 乗算した値
例えば $\boldsymbol{m = 3}$、$\boldsymbol{n = 2}$ の場合は以下のよう正しいことがわかります。
$\boldsymbol{\sum_{i=1}^{3}\sum_{j=1}^{2} a_ib_j}$
$\boldsymbol{= a_1b_1 + a_1b_2 + a_2b_1 + a_2b_2 + a_3b_1 + a_3b_2}$
$\boldsymbol{= a_1(b_1 + b_2) + a_2(b_1 + b_2) + a_3(b_1 + b_2)}$
$\boldsymbol{= (a_1 + a_2 + a_3)(b_1 + b_2)}$
$\boldsymbol{(\sum_{i=1}^{3} a_i)(\sum_{j=1}^{2} b_j)}$
また、この公式が 常に正しい ことは以下のように証明することができます。
$\boldsymbol{a_i}$ は $\boldsymbol{j}$ の値に関わらず同じ値を取る（$j$ から独立している）ので下記の式が成り立つ。
$\boldsymbol{\sum_{j=1}^{n} a_ib_j = a_i\sum_{j=1}^{n}b_j}$
従って、下記の式が成り立つ。
$\boldsymbol{\sum_{i=1}^{m}\sum_{j=1}^{n} a_ib_j =\sum_{i=1}^{m}(a_i\sum_{j=1}^{n}b_j)}$
$\boldsymbol{\sum_{j=1}^{n}b_j}$ の計算結果 は $\boldsymbol{i}$ の値に関わらず同じ値を取る ので下記の式が成り立つ。
$\boldsymbol{\sum_{i=1}^{m}(a_i\sum_{j=1}^{n}b_j) = (\sum_{j=1}^{n}b_j)(\sum_{i=1}^{m}a_i)}$
$\boldsymbol{\sum_{j=1}^{n}b_j}$ と $\boldsymbol{\sum_{i=1}^{m}a_i}$ は 特定の数値として計算 され、数値の掛け算の順序は交換できる ので下記の式が成り立つ。
$\boldsymbol{(\sum_{j=1}^{n}b_j)(\sum_{i=1}^{m}a_i) = (\sum_{i=1}^{m}a_i)(\sum_{j=1}^{n}b_j)}$
従って、下記の式が常に成り立つ ことが証明された。
$\boldsymbol{\sum_{i=1}^{m}\sum_{j=1}^{n} a_ib_j = (\sum_{i=1}^{m} a_i)(\sum_{j=1}^{n} b_j)}$
先程は 2 重和の分解の公式 によって 下記の式が成り立つことを利用 しましたので、どのように公式を利用したかについて説明します。
$\boldsymbol{\sum_{x}\sum_{y} xP(X=x)P(Y=y) =(\sum_{x} xP(X=x))(\sum_{y} P(Y=y))}$
$\boldsymbol{x}$ がとりうる値 を $x_1$、$x_2$、・・・、$x_m$、$\boldsymbol{y}$ がとりうる値 を $y_1$、$y_2$、・・・、$y_n$ とすると、上記の式は下記のようになります。
$\boldsymbol{\sum_{x}\sum_{y} xP(X=x)P(Y=y) = \sum_{i=1}^{m}\sum_{j=1}^{n} x_iP(X=x_i)P(Y=y_j)}$
$\boldsymbol{a_i = x_iP(X=x_i)}$、$\boldsymbol{b_j = P(Y=y_j)}$ とすると、上記の式は下記のようになります。
$\boldsymbol{\sum_{i=1}^{m}\sum_{j=1}^{n} x_iP(X=x_i)P(Y=y_j) = \sum_{i=1}^{m}\sum_{j=1}^{n} a_ib_j}$
$\boldsymbol{X}$ と $\boldsymbol{Y}$ は互いに独立 しているので、任意の $\boldsymbol{i}$ と $\boldsymbol{j}$ において $\boldsymbol{a_i}$ と $\boldsymbol{b_j}$ も独立 しています。従って、2 重和の分解の公式を適用 し、$\boldsymbol{a_i}$ と $\boldsymbol{b_i}$ を元に戻す と下記の式が成り立つことから、証明が完了します。
$\boldsymbol{\sum_{x}\sum_{y} xP(X=x)P(Y=y) = \sum_{i=1}^{m}\sum_{j=1}^{n} a_ib_j}$
$\boldsymbol{= (\sum_{i=1}^{m} a_i)(\sum_{j=1}^{n} b_j)}$
$\boldsymbol{= (\sum_{i=1}^{m} x_iP(X=x_i))(\sum_{j=1}^n P(Y=y_j))}$
$\boldsymbol{= (\sum_{x} xP(X=x))(\sum_{y} P(Y=y))}$
標本平均の期待値
先程説明したように、$\boldsymbol{n}$ 個の要素を持つ 標本平均 を表す 確率変数 $\boldsymbol{\bar{X}}$ の 実現値 $\boldsymbol{\bar{x}}$は、確率変数 $\boldsymbol{X}$ から抽出した $\boldsymbol{n}$ 個 の 実現値 の平均 を計算する 下記の式で計算 されます。
$\boldsymbol{\bar{x} = \frac{1}{n}\sum_{i=1}^{n} x_i}$
従って、確率変数 $\boldsymbol{\bar{X}}$ は先程説明した 確率変数 の 一次変換 と 和 を 組み合わせた 下記の式で定義することができます。ただし、$\boldsymbol{X_i}$ は 確率変数 $\boldsymbol{X}$ と同じ確率分布に従う $\boldsymbol{n}$ 個の独立した確率変数 です。
$\boldsymbol{\bar{X} = \frac{1}{n}(X_1 + X_2 + ．．． X_n) = \frac{1}{n}\sum_{i=1}^{n} X_i}$
従って、確率変数 $\boldsymbol{\bar{X}}$ の期待値 である $\boldsymbol{E[\bar{X}]}$ は下記の式のようになります。
$\boldsymbol{E[\bar{X}] = E[\frac{1}{n}\sum_{i=1}^{n} X_i]}$
$\boldsymbol{\sum_{i=1}^{n} X_i}$ は 確率変数の和 なので、$\boldsymbol{Y = \sum_{i=1}^{n} X_i}$ のように別の確率変数 $\boldsymbol{Y}$ を定義して表すことにすると、上記の式は下記のようになります。
$\boldsymbol{E[\bar{X}] = E[\frac{1}{n}Y]}$
先程説明したように、確率変数の一次変換 によって定義された 確率変数の期待値 は下記の式で計算されます。
$\boldsymbol{E[aX + b] = aE[X] + b}$
従って、先程の式は下記のようになります。
$\boldsymbol{E[\bar{X}] = \frac{1}{n}E[Y]}$
上記の $\boldsymbol{Y}$ を元に戻す と下記のようになります。
$\boldsymbol{E[\bar{X}] = \frac{1}{n}E[\sum_{i=1}^{n} X_i]}$
先程説明したように 確率変数の和の期待値 から $\boldsymbol{E[\sum_{i=1}^{n} X_i] = \sum_{i=1}^{n} E[X_i]}$ となるので、上記の式は下記のようになります。
$\boldsymbol{E[\bar{X}]= \frac{1}{n}\sum_{i=1}^{n} E[X_i]}$
$\boldsymbol{X_i}$ は 確率変数 $\boldsymbol{X}$ と同じ確率分布に従う ので、$\boldsymbol{E[X_i] = E[X]}$ となることから上記の式は下記のようになります。
$\boldsymbol{E[\bar{X}] = \frac{1}{n}\sum_{i=1}^{n} E[X] =\frac{1}{n}(nE[X]) = E[X]}$
上記から、標本平均 を表す 確率変数 $\boldsymbol{\bar{X}}$ の期待値である $\boldsymbol{E[\bar{X}]}$ は、母集団分布の期待値 である $\boldsymbol{E[X]}$、すなわち 母平均 $\boldsymbol{μ}$ と等しくなる ことがわかりました。
上記をまとめると以下のようになります。
確率変数 $\boldsymbol{X}$ が従う 母集団分布 から 無作為に復元抽出 した標本の 標本平均 を表す 確率変数 を $\boldsymbol{\bar{X}}$、母平均 を $\boldsymbol{μ}$ と表記すると下記の式が成り立つ。
$\boldsymbol{E[\bar{X}] = E[X] = μ}$
言葉で表す と以下のようになります。最初はわかりづらいかもしれませんが 母平均に等しくなる のは標本平均そのものではなく、標本平均の期待値 である点に注意して下さい。
母集団 から 無作為抽出 した標本の 標本平均の期待値 は、母集団の 母平均 に 等しくなる。
不偏推定量
このような 標本から計算 された 統計量から母集団の性質を推定 する際に、統計量の期待値 が 母集団の母数に一致 するような 推定量 のことを 不偏推定量3 と呼びます。上記で示したように 標本平均 は 母平均の不偏推定量 です。
不偏推定量 は母集団の性質を推定する際に重要となる値ですが、不偏推定量 が必ずしも 最も優れた推定量になるとは限らない 点に注意が必要です。具体的には 不偏推定量のばらつきが小さい ことが 推定値の精度 に大きく関わるため 重要 になります。
不偏推定量の代表例 である 標本平均 を例に挙げて説明します。
例えば、サイコロを 1 回振る ことによって得られた サイズが 1 の標本 の 標本平均 は 標本の値そのもの です。従って、標本平均を表す確率変数 $\boldsymbol{\bar{X}}$ と、母集団の確率変数 $\boldsymbol{X}$ は下記の式が示すように一致します
$\boldsymbol{\bar{X} = \frac{1}{1}\sum_{i=1}^{1} X_i = X_1 = X}$
標本サイズが 1 であっても 標本平均の期待値 は 母平均の 3.5 と一致 しますが、実際に得られる 標本平均の確率分布 は 1、2、3、4、5、6 が それぞれ 1/6 の確率で出現する というものなのでそれを 母平均として推測するには誤差が大きすぎます。
別の言葉で説明すると、サイコロを 1 回振る ということを 無限に繰り返す とその 平均は 3.5 になります が、その事実を元に サイコロを 1 回振って出た出目 をサイコロの 出目の期待値として推測する のは 誤差が大きすぎて問題がある ということです。
そのため、標本平均 を 母平均として推測しても良いか どうかは 得られた標本平均 が 期待値から離れた値になる確率が十分に小さい という ばらつきが小さい ことが求められ、そのことを保証 するのが 標本の数を大きくする ことで 標本平均が母平均から離れた値になる確率が小さくなる こと表す 大数の法則 です。
次回の記事ではこの大数の法則について詳しく説明する予定です。
今回の記事のまとめ
今回の記事では、確率変数 の 一次変換 と 和 について説明し、標本平均の期待値 が 母平均に等しくなる という 不偏推定量 の性質を持つことを示しました。
本記事で入力したプログラム
| リンク | 説明 |
|---|---|
| marubatsu.ipynb | 本記事で入力して実行した JupyterLab のファイル |
次回の記事
| 更新日時 | 更新内容 |
|---|---|
| 2026/05/06 | 確率変数の和の期待値の式が、確率変数の独立が必要ないことを追記しました。その証明については次回の記事で説明します |