検定とは
我々が確率的に起こる何かを定量的に調べるには、現実では何度か測定を行ってその統計値をもって判定を行うと思います。例えば、丁半博打でサイコロやツボに細工がされていてイカサマが行われているかなどです。そのときに「この人ばかり当たるのはおかしい！」と文句を言っても「いやたまたまですよ」と言い逃れされてしまうかもしれませんし、運悪くそういうことが重なってしまったのか、本当にツボ振りに問題があるのかを判断しないといけません。そういうときに使うのが仮設検定という方法です。
現実だと製品の性能評価とか欠陥品の発生率の評価とかで使われます。
統計論的推測決定
確率論の最尤推定に基づいて説明します。
$\Omega$: 観測空間(対象となる確率的事象の集合)に対してパラメーター$\theta \in \Theta$に依存する確率空間$(\Omega,\mathcal{F},p_\theta)$を考えます。
ここに
行動空間
$\mathcal{A}$: $\omega \in \Omega$が起ったときにとる行動の選択肢全体の集合
決定関数と決定空間
$\delta:\Omega \rightarrow \mathcal{A}$: 事象とその時に取る行動の関係を表す確率変数
決定関数全体の集合を$\mathcal{D}$と表し、決定空間と呼びます。
損失関数
行動$a \in \mathcal{A}$をとるリスクを数値化した可測関数$w:\Theta\times\mathcal{A} \rightarrow \mathbb{R}$
危険関数
確率変数$w(\theta,\delta(\omega))$に対する期待値
\begin{align}
E_\theta[w(\theta,\delta(\omega))] = \int_\Omega w(\theta,\delta(\omega)) dp_\theta(\omega)
\end{align}
に対して汎関数$r:\Theta \times \mathcal{D} \rightarrow \mathbb{R}$を危険関数といいます。
仮説検定問題
非確率化検定
パラメーター$\theta \in \Theta$について２つのケースを考えて正誤判定を行うという問題設定です。
パラメーターの選択として
$H_0$: $\theta = \theta_0$ (帰無仮説:事象の偏りがたまたまだった場合)
$H_1$: $\theta = \theta_1$ (対立仮設:何かしらの原因で事象の偏りが起っていた場合)
を考えます。例えば丁半博打のイカサマだとパラメーター$\theta$をいじって確率$p_\theta$を操作しているかどうかをチェックするという解釈です。
よってパラメーター集合は
\Theta = \{\theta_0,\theta_1\}
です。
検定における行動集合
\mathcal{A} = \{a_0,a_1\} = \{0,1\} \subset \mathbb{N}
は
$a_1=1$: 帰無仮説$H_0$を棄却する行動
$a_0=0$: 帰無仮説$H_0$を棄却しない行動
の２値をとり、($0,1$だと紛らわしいときのために変数名$a_0,a_1$をつけました。)
W = \delta^{-1}(1) \subset \Omega
を棄却域
W^c = \delta^{-1}(0)
を採択域といいます。
第１種,第２種の誤り
行動を選ぶパターンとしては以下の４つが考えられます。
パターン１
事象が$p_{\theta_0}$の確率分布に従い、$\omega_0 \in W^c$が確率的に選ばれて行動$a_0 = \delta(\omega_0)$を選択する。
パターン2
事象が$p_{\theta_0}$の確率分布に従い、$\omega_1 \in W$が確率的に選ばれて行動$a_1 = \delta(\omega_1)$を選択する。
パターン3
事象が$p_{\theta_1}$の確率分布に従い、$\omega_0 \in W^c$が確率的に選ばれて行動$a_0 = \delta(\omega_0)$を選択する。
パターン4
事象が$p_{\theta_1}$の確率分布に従い、$\omega_1 \in W$が確率的に選ばれて行動$a_1 = \delta(\omega_1)$を選択する。
パターン1,4の場合は正しい行動が選択されていますが、パターン2,3は運悪く確率的に間違った行動をとってしまっています。
パターン2は第１種の誤り、パターン３は第２種の誤りと呼ばれています。
図にすると以下のようになります。
| $a_0$ | $a_1$ | |
|---|---|---|
| $\theta_0$ | 正 | 誤1 |
| $\theta_1$ | 誤2 | 正 |
このとき損失関数は
w(\theta,a) = \begin{cases}
0 & (\theta = \theta_0 \& a=0) \\
c_1 & (\theta = \theta_0 \& a=1) \\
c_2 & (\theta = \theta_1 \& a=0) \\
0 & (\theta = \theta_1 \& a=1)
\end{cases}
です。($c_1,c_2 > 0$は手で決めた重みであり、通常は$c_1=c_2=1$)
このとき決定関数$\delta$に従って行動する際の第１種の誤りを起こすリスク$\alpha$と第2種の誤りを起こすリスク$\beta$は
\begin{align}
\alpha(\delta) &= r(\theta_0,\delta) \\
&= \int_\Omega w(\theta_0,\delta(\omega))dp_{\theta_0}(\omega) \\
&= \int_W c_1dp_{\theta_0}(\omega) \\
&= c_1 P_{\theta_0}(\omega \in W) \\
\beta(\delta) &= r(\theta_1,\delta) \\
&= c_2 P_{\theta_1}(\omega \in W^c)
\end{align}
となります。よって非確率化検定の場合は$\alpha,\beta$のリスクを受け入れて検定を行うことになります。
また
\gamma(\delta) = 1-\beta(\delta)
を検出力と言います。
確率化検定
先の非確率化検定をもうちょっと拡張したものに確率化検定というのがあります。
これは行動空間を
\mathcal{A} = \left\{ \phi: [0,1] \rightarrow \{a_0,a_1\} \mid \text{$\phi \sim U([0,1])$} \right\}
という$[0,1]$上の一様分布$U([0,1])$に従う確率変数の集合として扱います。
また損失関数は
\begin{align}
w(\theta,\phi) &= \chi_{\{\theta_0\}}(\theta)\int_{[0,1]}\chi_{\{a_1\}}(\phi(x)) d\mu(x) + \chi_{\{\theta_1\}}(\theta)\int_{[0,1]}\chi_{\{a_0\}}(\phi(x)) d\mu(x) \\
&= \chi_{\{\theta_0\}}(\theta)\int_{\phi^{-1}(a_1)} d\mu(x) + \chi_{\{\theta_1\}}(\theta)\int_{{\phi^{-1}(a_0)}} d\mu(x) \\
&= \chi_{\{\theta_0\}}(\theta)\mu(\phi^{-1}(a_1)) + \chi_{\{\theta_1\}}(\theta)\mu(\phi^{-1}(a_0))
\end{align}
と作ることができます。($\mu$は一様分布の確率測度)
よってそれぞれ第１種、第２種の誤りのリスクは
\begin{align}
\alpha(\delta) &= \int_\Omega \mu((\delta(\omega))^{-1}(a_1))dp_{\theta_0}(\omega) \in [0,1] \\
\beta(\delta) &= \int_\Omega \mu((\delta(\omega))^{-1}(a_0))dp_{\theta_1}(\omega) \in [0,1]
\end{align}
となります。
最強力検定
"いい"$\delta$というのはリスク$\alpha,\beta$をできるだけ小さくできる写像ということになりますが、２つの関数を同時に最適化することはできないので、通常は次のような制約付き最適化問題で最適な決定関数$\delta^*$を決めます。
\max_{\delta \in \mathcal{D}} \gamma(\delta) \quad \text{s.t.} \quad \alpha(\delta) \leq \alpha_0
このとき出てくる定数$\alpha_0$を有意水準と呼びます。
この最適解は以下のNeyman-Pearsonの基本定理で与えられています。
Neyman-Pearsonの基本定理
尤度比
\Lambda(\omega) = \frac{dp_{\theta_1}}{dp_{\theta_0}}(\omega)
に対して
\exists k>0, q \in [0,1] \quad \text{s.t} \quad
p(\Lambda > k) + q p(\Lambda=k) = \alpha_0
として、
\mu((\delta^*(\omega))^{-1}(a_1)) = \begin{cases}
1 & \Lambda > k \\
p & \Lambda = k \\
0 & \Lambda < k
\end{cases}
となる$\delta^*$が最適解となる。
ちなみにこのとき
\begin{align}
\alpha(\delta^*) &= \int_\Omega \mu((\delta^*(\omega))^{-1}(a_1))dp_{\theta_0}(\omega) \\
&= p(\Lambda > k) + q p(\Lambda=k) \\
&= \alpha_0
\end{align}
となります。
例:正規分布の平均値
サンプル$X_1,X_2,\cdots,X_n \sim N(\mu,\sigma^2)$の
母分散$\sigma^2$が既知であるとして未知の$\mu$についての検定
\begin{align}
H_0&: \mu= \mu_0 \\
H_1&: \mu = \mu_1 > \mu_0
\end{align}
を考えます。ここでパラメータとなるのは平均$\mu$で、パラメーター集合は
\Theta = \{\mu_0,\mu_1\}
です。
母分散が既知というのは現実的にはまずありませんが、例えば会社として製品の性能指数として$\mu_0$を提示していて、検査のために再度測ってみたら$\mu_1$だったというような状況を想定しています。
このときパラメーターとしては
正規分布のラドンニコディム微分は確率密度関数の比をとればいいので
\begin{align}
x &= (X_1(\omega),\cdots, X_n(\omega)) \\
\bar{x} &= \bar{X}(\omega) \\
f_{\mu}(x) &= \frac{1}{\sqrt{2\pi}\sigma}\exp\left[-\sum_{i=1}^n \frac{(x_i-\mu)^2}{2\sigma^2} \right] \\
\log \Lambda(x) &= \frac{f_{\mu_1}}{f_{\mu_0}} = n\frac{\mu_1 -\mu_0}{\sigma^2}\left( \bar{x} - \frac{\mu_0 + \mu_1}{2} \right)
\end{align}
となります。よって$\mu_1>\mu_0$より
\exists k' \quad s.t. \quad \bar{x} > k' \Leftrightarrow \log \Lambda > \log k \Leftrightarrow \Lambda > k
で、棄却域は
W = X^{-1}(\{x \in \mathbb{R}^n \mid \bar{x} > k' \}) \subset \Omega
です。次に$k'$を決定します。正規分布において$\bar{x}=k'$となる集合はゼロ集合なので
\begin{align}
Z &= \frac{\sqrt{n}(\bar{X})-\mu_0}{\sigma} \\
\alpha_0 &= p_{\mu_0}(\bar{X} > k') = p_{\mu_0}\left( Z> \frac{\sqrt{n}(k'-\mu_0)}{\sigma}\right) \\
& = 1 - \Phi\left(\frac{\sqrt{n}(k'-\mu_0)}{\sigma}\right)
\end{align}
となります。ここで$\Phi(z)$は標準正規分布関数です。
したがって$k'$は
\exists z_{\alpha_0}>0 \quad s.t. \quad \Phi(z_{\alpha_0}) = 1-\alpha_0
として
k' = \mu_0 + z_{\alpha_0}\frac{\sigma}{\sqrt{n}}
となります。決定関数は
\delta^*(\omega) = \begin{cases}
a_1 & Z(\omega) \geq k' \\
a_0 & Z(\omega) < k'
\end{cases}
です。(連続分布だから$Z(\omega)=k'$は考えない。)
参考資料
稲垣宣生: 数理統計学 (裳華房)