【訂正記録】
1 射影行列の性質
$P_S$ と $P_T$ を、部分空間 $\boldsymbol{S}$ と $\boldsymbol{T}$ への射影行列とする。
このとき、以下の(1)~(3)が成立する。
(A) $\boldsymbol{S} \subset \boldsymbol{T}$ の場合 $P_S P_T = P_T P_S = P_S$ が成り立つ
(B) $\boldsymbol{S} \subset \boldsymbol{T}$ または $\boldsymbol{S} \supset \boldsymbol{T}$ の場合 $P_S$ と $P_T$ は可換である:$[P_S, P_T] = 0$
(C) $P_S$ と $P_T$ が同時対角化できない場合は「ある条件」が成立する場合に非可換となる(「ある条件」は4章で述べる):$[P_S, P_T] \ne 0$
2 一次元部分空間への射影行列
$\mathbb{R}^m$ 内の線形独立な $n$ 個のベクトル $\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n$ を列ベクトルとする行列を $A$ とする。すなわち
A =
\begin{bmatrix}
\boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \\
\end{bmatrix}.
\tag{1}
$A$ の列空間($A$ の列ベクトルが張る空間)を $M_A$、$\mathbb{R}^m$ の任意のベクトル $\boldsymbol{v}$ を $M_A$ へ射影する行列を$P_A$ とする。すなわち
P_A = A (A^T A)^{-1} A^T.
\tag{2}
$A$ の列ベクトルの1つ $\boldsymbol{a}_i$ へ $\boldsymbol{v}$ を射影する行列を$P_{\boldsymbol{a}_i}$ とする。すなわち
P_{\boldsymbol{a}_i} =
\frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}.
\tag{3}
(2)式の両辺に右から A を掛けると
P_A A = \left(A (A^T A)^{-1} A^T \right) A = A (A^T A)^{-1} A^T A = A.
\tag{4}
また、(3)式の両辺に右から $\boldsymbol{a}_i$ を掛けると
P_{\boldsymbol{a}_i} \boldsymbol{a}_i =
\left( \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i} \right) \boldsymbol{a}_i
=
\frac{\boldsymbol{a}_i \boldsymbol{a}_i^T \boldsymbol{a}_i} {\boldsymbol{a}_i^T \boldsymbol{a}_i} = \boldsymbol{a}_i.
\tag{5}
(4)式で得られた $P_A A = A$ に(1)式の $A = \begin{bmatrix} \boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \end{bmatrix}$ を代入すると
P_A
\begin{bmatrix}
\boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \\
\end{bmatrix}
=
\begin{bmatrix}
P_A \boldsymbol{a}_1 & \cdots & P_A \boldsymbol{a}_n \\
\end{bmatrix}
=\begin{bmatrix}
\boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \\
\end{bmatrix}
となるので、
P_A \boldsymbol{a}_i = \boldsymbol{a}_i
\quad (i = 1, \cdots, n)
\tag{6}
を得る。
したがって、これを使えば
P_A P_{\boldsymbol{a}_i}
= P_A \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= \frac{(P_A \boldsymbol{a}_i) \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= P_{\boldsymbol{a}_i}
\tag{7}
となる。
次に、(6)式の両辺の転置をとると
(P_A \boldsymbol{a}_i)^T = \boldsymbol{a}_i^T P_A^T = \boldsymbol{a}_i^T P_A = \boldsymbol{a}_i^T.
\tag{8}
ここで、右辺第2項から第3項へ移るとき、射影行列は対称行列であるという性質[2] $P_A^T = P_A$ を使った。
(8)式を使うと
P_{\boldsymbol{a}_i} P_A
= \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i} P_A
= \frac{\boldsymbol{a}_i (\boldsymbol{a}_i^T P_A)} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= P_{\boldsymbol{a}_i}
\tag{9}
となる。
最終的に(7)式と(9)式から
P_A P_{\boldsymbol{a}_i} = P_{\boldsymbol{a}_i} P_A = P_{\boldsymbol{a}_i}
\tag{10}
が得られる。
$\boldsymbol{a}_i$ は $M_A$ の一次元部分空間なので、(10)式は「1 射影行列の性質」の(A)で述べた特別な場合、つまり、部分空間 $\boldsymbol{S}$ が $\boldsymbol{a}_i$ で、部分空間 $\boldsymbol{T}$ が $M_A$ の場合に相当する。
3 一般の部分空間への射影行列
$\boldsymbol{S}_A = \lbrace \boldsymbol{a}_i \rbrace _{i=1} ^{n}$ の部分集合を $\boldsymbol{S}_{A'} = \lbrace \boldsymbol{a}'_i \rbrace _{i=1} ^{l}$ (ただし $l \le n$)として、$\boldsymbol{a'}_1, \cdots, \boldsymbol{a'}_l$ を列ベクトルとする行列を $A'$ とする。すなわち
A' =
\begin{bmatrix}
\boldsymbol{a'}_1 & \cdots & \boldsymbol{a'}_l \\
\end{bmatrix}.
\tag{11}
そして、$A'$ の列空間、すなわち $\boldsymbol{a'}_1, \cdots, \boldsymbol{a'}_l$ の張る空間を $M_{A'}$ とすると、$M_{A'}$ への射影行列は
P_{A'} = A' ({A'}^T A')^{-1} {A'}^T.
\tag{12}
(12)式の両辺に右から $A'$ を掛けると
P_{A'} A' = \left( A' ({A'}^T A')^{-1} {A'}^T \right) A'
= A' ({A'}^T A')^{-1} {A'}^T A' = A'.
\tag{13}
$\boldsymbol{S}_{A'}$ の元 $\boldsymbol{a'}_i$ は $\boldsymbol{S}_A$ の元でもあるので
P_A \boldsymbol{a'}_i = \boldsymbol{a'}_i
\quad (i = 1, \cdots, l).
\tag{14}
(11)式の両辺に左から $P_A$ を掛けると
\begin{equation}
\begin{split}
P_A A'
&=
P_A
\begin{bmatrix}
\boldsymbol{a'}_1 & \cdots & \boldsymbol{a'}_l
\end{bmatrix} \\
&=
\begin{bmatrix}
P_A \boldsymbol{a'}_1 & \cdots & P_A \boldsymbol{a'}_l
\end{bmatrix} \\
&=
\begin{bmatrix}
\boldsymbol{a'}_1 & \cdots & \boldsymbol{a'}_l
\end{bmatrix} \\
&= A'.
\end{split}
\end{equation}
\tag{15}
ここで、2行目から3行目に式展開する際に(14)式を用いた。
次に、(12)式の両辺に左から $P_A$ を掛けると
\begin{equation}
\begin{split}
P_A P_{A'}
&= P_A \left( A' ({A'}^T A')^{-1} {A'}^T \right) \\
&= P_A A' ({A'}^T A')^{-1} {A'}^T \\
&= A' ({A'}^T A')^{-1} {A'}^T \\
&= P_{A'}.
\end{split}
\end{equation}
\tag{16}
ここで、2行目から3行目に式展開する際に(15)式を利用した。
また、(15)式の転置をとると
\left(P_A A' \right)^T = {A'}^T {P_A}^T = {A'}^T P_A = {A'}^T
\tag{17}
ここで、右辺第2項から第3項へ移るとき、${P_A}^T = P_A$ を用いた。
(12)式の両辺に右から $P_A$ を掛けると
\begin{equation}
\begin{split}
P_{A'} P_A
&= \left( A' ({A'}^T A')^{-1} {A'}^T \right) P_A \\
&= A' ({A'}^T A')^{-1} {A'}^T P_A \\
&= A' ({A'}^T A')^{-1} {A'}^T \\
&= P_{A'}.
\end{split}
\end{equation}
\tag{18}
ここで、2行目から3行目への式展開で(17)式の ${A'}^T P_A = {A'}^T$ を用いた。
最終的に(16)式と(18)式から
P_A P_{A'} = P_{A'} P_A = P_{A'}
\tag{19}
が得られる。
$M_{A'}$ は $M_A$ の部分空間なので、(19)式は「1 射影行列の性質」の(A)で述べた一般的な場合、つまり、部分空間 $\boldsymbol{S}$ が $M_{A'}$ で、部分空間 $\boldsymbol{T}$ が $M_A$ の場合に相当する。
以上、$\boldsymbol{S} \subset \boldsymbol{T}$ の場合を見てきたが、$M_{A}$ を $\boldsymbol{S}$ 、$M_{A'}$ を $\boldsymbol{T}$ とみなせば $\boldsymbol{S} \supset \boldsymbol{T}$ となり、これまで述べてきたことがそのまま成り立つので「1 射影行列の性質」の(B)で述べた射影行列の可換条件($\boldsymbol{S} \subset \boldsymbol{T}$ または $\boldsymbol{S} \supset \boldsymbol{T}$ の場合 $P_S$ と $P_T$ は可換である)が証明された。
4 射影行列の非可換条件
4.1 非可換となる条件
射影行列は対称行列である。また、対称行列の固有値はすべて実数で、適切な直交行列を用いて対角化できる。
いま、$P_S, P_T$が同時対角化不可能だとする。すなわち、ある直交行列 $Q$ を用いて $P_S$ を対角化した場合、同じ $Q$ を用いても $P_T$ は対角化できない場合を考える。
$P_S$ が部分空間 $\mathbb{R}^r, (r \le m)$ への射影行列だとして、直交行列 $Q$ を用いて対角化したものを $P'_S$ とすると、射影行列の固有値は $r$ 個の $1$ と $m - r$ 個の $0$ からなるので、
P'_S \equiv Q P_S Q^{-1} =
\begin{pmatrix}
1 \\
& \ddots \\
& & 1 & \\
& & & 0 \\
& & & & \ddots \\
& & & & & 0
\end{pmatrix}.
\tag{20}
ここで $P'_S$ の対角成分は連続して $1$ が $r$ 個並び、続く $m - r$ 個が $0$ になるように $Q$ を選ぶものとする。
一方、$P_T$ は、同じ $Q$ では対角化できないので、一般に
P'_T \equiv Q P_T Q^{-1} =
\begin{pmatrix}
t_{11} & t_{12} & \dots & t_{1m} \\
t_{21} & t_{22} & \dots & t_{2m} \\
\vdots & \vdots & \ddots & \vdots \\
t_{m1} & t_{m2} & \dots & t_{mm} \\
\end{pmatrix}
\tag{21}
となる。その際、非対角成分 $t_{ij}, (i \ne j)$ は、すべて $0$ になることはない。
(20)式、(21)式から
P'_S P'_T =
\begin{pmatrix}
t_{11} & t_{12} & \dots & t_{1m} \\
\vdots & \vdots & \ddots & \vdots \\
t_{r1} & t_{r2} & \dots & t_{rm} \\
0 & 0 & \dots & 0 \\
\vdots & \vdots & \ddots & \vdots \\
0 & 0 & \dots & 0 \\
\end{pmatrix}
\tag{22}
となる。これは、$P'_S$ を左側から掛けたことにより $P'_T$ の $r$ 行目までが切り取られ、$r + 1$ 行目以降はすべて $0$ になったためである。
また
P'_T P'_S =
\begin{pmatrix}
t_{11} & \dots & t_{1r} & 0 & \dots & 0 \\
\vdots & \ddots & \vdots & \vdots & \ddots & \vdots \\
t_{m1} & \dots & t_{mr} & 0 & \dots & 0 \\
\end{pmatrix}
\tag{23}
となる。これは、$P'_S$ を右側から掛けたことにより $P'_T$ の $r$ 列目までが切り取られ、$r + 1$ 列目以降はすべて $0$ になったためである。
以上から、
$ r \lt i \le m, 1 \le j \le r $ に対して $t_{ij} = t_{ji} \ne 0$ であるような非対角成分が1つでもあれば
P'_S P'_T \ne P'_T P'_S \tag{24}
となることがわかる。
その場合、(24)式は
Q P_S Q^{-1} Q P_T Q^{-1} \ne Q P_T Q^{-1} Q P_S Q^{-1} \tag{25}
となり、これは $Q^{-1} Q = I$ の関係を使って
Q P_S P_T Q^{-1} \ne Q P_T P_S Q^{-1} \tag{26}
と変形でき、両辺に左から $Q^{-1}$、右から $Q$ を掛けると
P_S P_T \ne P_T P_S \tag{27}
となって、$P_S$ と $P_T$ の間では交換関係が成立しないことが示せる。したがって、「1 射影行列の性質」で述べた(C)の「ある条件」とは
$P_S$ を対角化する直交行列 $Q$ を使って $Q P_T Q^{-1}$ を計算したとき、その成分を $t_{ij}$ とすると、 $ r \lt i \le m, 1 \le j \le r $ に対して $t_{ij} =t_{ji} \ne 0$ であるような非対角成分が1つでもあれば $P_S$ と $P_T$ は非可換である。
である。
4.2 非可換となる具体例
以下の図は $\mathbb{R}^3$ の場合の非可換となる具体例である。図は、$x-y$ 平面を $\boldsymbol{S}$ 、平面 $y - z = 0$ を $\boldsymbol{T}$ とし、$\mathbb{R}^3$ 内の任意のベクトル $\boldsymbol{v}$ から部分空間 $\boldsymbol{S}$ への射影を $\boldsymbol{p}_S$、部分空間 $\boldsymbol{T}$ への射影を $\boldsymbol{p}_T$ としたものである。さらに、$\boldsymbol{p}_S$ から部分空間 $\boldsymbol{T}$ への射影を $\boldsymbol{p}_{ST}$、$\boldsymbol{p}_T$ から部分空間 $\boldsymbol{S}$ への射影を $\boldsymbol{p}_{TS}$ としている。
つまり、
\boldsymbol{p}_{ST} = P_T P_S \boldsymbol{v},
\quad
\boldsymbol{p}_{TS} = P_S P_T \boldsymbol{v}
であるが、両者は一致しない。一致しないのは、$\boldsymbol{S}$ と $\boldsymbol{T}$ が直交していないからである。もし、直交していたら $\boldsymbol{p}_{ST}$ と $\boldsymbol{p}_{TS}$ は一致する。したがって、前節で述べた「ある条件」はこのあたりに関係してくるのだろう。
この場合、射影行列は
P_S = \begin{pmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 0 \\
\end{pmatrix},
P_T = \begin{pmatrix}
1 & 0 & 0 \\
0 & 1/2 & 1/2 \\
0 & 1/2 & 1/2 \\
\end{pmatrix}
となるが、$t_{32} = t_{23} = 1/2 \ne 0$ という条件が成立するので
P_S P_T = \begin{pmatrix}
1 & 0 & 0 \\
0 & 1/2 & 1/2 \\
0 & 0 & 0 \\
\end{pmatrix},
P_T P_S = \begin{pmatrix}
1 & 0 & 0 \\
0 & 1/2 & 0 \\
0 & 1/2 & 0 \\
\end{pmatrix}
となって非可換になる。
参考文献
- G. ストラング:線形代数イントロダクション 原著第4版. 近代科学社, 2015.
- 田中昌昭:射影行列のトレースは行列の階数に等しい. https://qiita.com/mtanaka-kumw/items/e938869178fecf0590cf, (2023.12.25参照)