一般化回帰モデルとは
ここでは、被説明変数を $\boldsymbol{y}(\in\mathbb{R^n})$、計画行列を $\boldsymbol{X} (n×p行列)$、回帰係数ベクトルを $\boldsymbol{\beta}(\in\mathbb{R^p})$、残差ベクトルを $\boldsymbol{\epsilon}(\in\mathbb{R^n})$としたとき、以下のような形であらわすことのできるモデルを一般化回帰モデルと呼ぶ。
\boldsymbol{y} = \boldsymbol{X}\boldsymbol{\beta} + \boldsymbol{\epsilon}
検定にあたって
H_0: \boldsymbol{\beta} \in \Theta_0 \quad vs. \quad
H_1: \boldsymbol{\beta} \notin \Theta_0
帰無仮説の下での自由度を $s$ とすると、
F = \frac{||\boldsymbol{X}\boldsymbol{\hat{\beta}} - \boldsymbol{X_0}\boldsymbol{\hat{\beta_0}}||^2 / (p-s)}{||\boldsymbol{y} - \boldsymbol{X}\boldsymbol{\hat{\beta}}||^2 / (n-p)} \sim F_{p, n-p} \quad\cdots (1)
帰無仮説の下での残差平方和を $S_0$、対立仮説の下での残差平方和を $S_1$ とすると、
F = \frac{S_0 - S_1 / (p-s)}{S_1 / (n-p)} \sim F_{p, n-p} \quad\cdots (2)
帰無仮説の下である行列 $\boldsymbol{C} (k×p行列)$ とあるベクトル $\boldsymbol{r} (\in \mathbb{R}^k)$ を用いて
\boldsymbol{C}\boldsymbol{\beta} = \boldsymbol{r}
とあらわされるとき、 $\boldsymbol{\beta}$ の推定量 $\boldsymbol{\hat{\beta}}$ の分布が $N_p(\boldsymbol{\beta}, \sigma^2(\boldsymbol{X}^T\boldsymbol{X})^{-1})$ に従うことから、 $C\boldsymbol{\hat{\beta}}$ は
\boldsymbol{C}\boldsymbol{\hat{\beta}} \sim N_k(\boldsymbol{C}\boldsymbol{\beta}, \sigma^2 \boldsymbol{C}(\boldsymbol{X}^T\boldsymbol{X})^{-1}\boldsymbol{C}^T)
という分布に従う。さらに、帰無仮説の下では
\boldsymbol{C}\boldsymbol{\hat{\beta}} - \boldsymbol{r} \sim N_k(\boldsymbol{0}, \sigma^2 \boldsymbol{C}(\boldsymbol{X}^T\boldsymbol{X})^{-1}\boldsymbol{C}^T)
に従うので、
(\boldsymbol{C}\boldsymbol{\hat{\beta}} - \boldsymbol{r})^T (\sigma^2 \boldsymbol{C}(\boldsymbol{X}^T\boldsymbol{X})^{-1}\boldsymbol{C}^T)^{-1} (\boldsymbol{C}\boldsymbol{\hat{\beta}} - \boldsymbol{r}) \sim \chi^2_{k}
が成り立つ。ここで、対立仮説の下での残差平方和 $S_1$ について、$(n-p)\frac{S_1}{\sigma^2} \sim \chi^2_{n-p}$ に従うことから、
F = (\boldsymbol{C}\boldsymbol{\hat{\beta}} - \boldsymbol{r})^T (S_1 \boldsymbol{C}(\boldsymbol{X}^T\boldsymbol{X})^{-1}\boldsymbol{C}^T)^{-1} (\boldsymbol{C}\boldsymbol{\hat{\beta}} - \boldsymbol{r}) / k \sim F_{k, n-p} \quad\cdots (3)