以前放送大学ラジオの「代数の考え方」で、群行列式(group determinant) というものを紹介していた。
以下のように、規則的に構成した行列の行列式がきれいに因数分解するという。

$$
\begin{eqnarray}
\begin{vmatrix}
a & b \\
b & a
\end{vmatrix} &=& a^2 - b^2 = (a + b)(a - b) \\ \\
\begin{vmatrix}
a & c & b \\
b & a & c \\
c & b & a
\end{vmatrix} &=&
a^3 + b^3 + c^3 - 3abc \\
&=& (a + b + c)(a^2+ b^2 + c^2 - ab - ac - bc ) \\
&=& (a + b + c)(a + \omega b + \omega^2 c)(a + \omega^2 b + \omega c)
（\omega は 1 の原始3乗根）
\\ \\
\begin{vmatrix}
a & b & c & d \\
b & a & d & c \\
c & d & a & b \\
d & c & b & a
\end{vmatrix} &=&
a^{4} + b^{4} + c^{4} + d^{4}

2 (a^{2} b^{2} + a^{2} c^{2} + b^{2} c^{2}+a^{2} d^{2}+b^{2} d^{2} + c^{2} d^{2}) + 8 a b c d \\
&=& (a + b + c + d)(a + b - c - d)(a - b - c + d)(a - b + c - d)
\end{eqnarray}
$$
（それぞれ2次の巡回群 $C_2$、3次の巡回群 $C_3$、クラインの四元群 $C_2 \times C_2$ に対応する)

歴史的には、なぜこのような群行列式がきれいに因数分解するのか？という疑問から 群の表現論 が始まったということで、少し調べてみた。
なお非可換群の場合はまだよく理解できていないので、以下では可換群の場合を中心にまとめる。

群行列式

群行列式は以下のように構成する。

有限群 $G = \{ g_1, g_2, \cdots, g_n \}$ に対して（ただし $g_1=e$ 単位元とする）
各要素ごとの記号 $　t_{g_1}, t_{g_2}, \cdots, t_{g_n}$ を用意し、
$n \times n$ の 群行列 $A = \{ A_{ij} \}$ を $A_{ij} = t_{g_i{g_j^-1}}$ で定義する。
この群行列の行列式 $| A |$ を、群$G$ の群行列式という。

例として $C_3$ の場合を示すと、

(1) まず群の乗算表を作る。ただし列には行の要素の逆元を並べる。
（こうすると対角要素がすべて単位元になり見やすい。なお列の順序がかわっても行列式だからせいぜい符号がかわるだけである）

$$
\begin{array}{c|ccc}
g \backslash h^{-1} & e & c^2 & c \\
\hline
e & e & c^2 & c \\
c & c & e & c^2 \\
c^2 & c^2 & c & e \\
\end{array}
$$

(2) 乗算表の中身を、各要素に対応した記号に置き換える。
$$
\begin{array}{c|ccc}
g \backslash h^{-1} & e & c^2 & c \\
\hline
e & t_e & t_{c^2} & t_c \\
c & t_c & t_e & t_{c^2} \\
c^2 & t_{c^2} & t_c & t_e
\end{array}
$$

(3) この中身を行列と考えて行列式を作る。

$$
\begin{vmatrix}
t_e & t_{c^2} & t_c \\
t_c & t_e & t_{c^2} \\
t_{c^2} & t_c & t_e
\end{vmatrix}
$$

可換群の場合

有限可換群の規約表現はすべて1次元表現、すなわち群 $G$ から乗法を演算とする複素数 $C^{\mathsf{x}}$ への群準同型写像　$ f : G \rightarrow C^{\mathsf{x}}$ である。これを群の指標という。

異なる指標の数は、ちょうど群の位数 n に等しい。指標全体の集合を
$F(G) = \{f_1,f_2,\cdots,f_n\}$ とする。
ただし $f_1(\forall g) \equiv 1$ （恒等表現）とする。

指標 $f$ を求めるには群の生成元の行き先が分かればよいから、生成元 g の位数を r とすると
$f(g^r) = f(g)^r = 1$
したがって $f(g)$ は 1 の r 乗根の１つで、r 通りあることになる。
生成元が複数ある場合は、それぞれの積を作ればよい。

実は群行列式の行列をよく見ると、例えば
$$
\begin{pmatrix}
a & c & b \\
b & a & c \\
c & b & a
\end{pmatrix}
\begin{pmatrix}
1 \\
1 \\
1
\end{pmatrix}
= (a + b + c)
\begin{pmatrix}
1 \\
1 \\
1
\end{pmatrix}
$$

であることが分かる。すなわち因数分解したときの因子 $(a + b + c)$ は、行列の 固有値なのだ。

実際、指標 $f_m(g)$ に対してその値を縦に並べたベクトル$\boldsymbol{ v_m }$ は群行列 $A$ の固有ベクトルである。すなわち

$$
A = \{ t_{g_i{g_j^-1}} \} , \ \ \
\boldsymbol{ v_m } = \left(
\begin{array}{c}
f_m(g_1)\\
f_m(g_2) \\
\vdots \\
f_m(g_n) \\
\end{array}
\right)　(i,j,m = 1,2,\cdots, n)
$$
とすると
$$
\begin{eqnarray}
A \boldsymbol{v_m} &=& \lambda_m \boldsymbol{v_m} \\
\lambda_m &=& \sum_{k=1}^n t_{g_k} f_m(g_k^{-1})
\end{eqnarray}
$$

となる。実際 $ A \boldsymbol{v_m}$ の $i$ 行目を計算してみると
$$
\begin{eqnarray}
& \sum_{j=1}^{n} t_{g_i g_j^{-1}} f_m(g_j) &=& \sum_{k=1}^n t_{g_k} f_m(g_i g_k^{-1}) \\
& &=& \sum_{k=1}^n t_{g_k} f_m(g_i) f_m(g_k^{-1}) \\
& &=& \{ \sum_{k=1}^n t_{g_k} f_m(g_k^{-1}) \} f_m(g_i)
\end{eqnarray}
$$

ここで 1行目の右辺は、$g_i g_j^{-1} = g_k$ と置き、$j = 1,\cdots,n$ のとき $g_i g_j^{-1} = g_k$ はすべて異なるから、$j$ に関する和を $k$ についての和で置き換えた。

対角化できることはすぐわかるので、行列式は固有値の積になる。従って上の例のように可換群の群行列式は、記号 $t_1, \cdots, t_n$ の一次式 $n$ 個の積に因数分解できる。　

$C_3$ の場合でたしかめてみると、指標は
$$
\begin{array}{c|ccc}
g \backslash f(g) & f_1 & f_2 & f_3 \\
\hline
e & 1 & 1 & 1 \\
c & 1 & \omega & \omega^2 \\
c^2 & 1 & \omega^2 & \omega
\end{array}
$$
なので、以下となる。

$$
\begin{pmatrix}
t_e & t_{c^2} & t_c \\
t_c & t_e & t_{c^2} \\
t_{c^2} & t_c & t_e
\end{pmatrix}
\begin{pmatrix} 1 \\ 1 \\ 1 \end{pmatrix}
= (t_e + t_{c^2} + t_c )
\begin{pmatrix} 1 \\ 1 \\ 1 \end{pmatrix}
$$
$$
\begin{pmatrix}
t_e & t_{c^2} & t_c \\
t_c & t_e & t_{c^2} \\
t_{c^2} & t_c & t_e
\end{pmatrix}
\begin{pmatrix} 1 \\ \omega \\ \omega^2 \end{pmatrix}
= (t_e + t_{c^2} \omega + t_c \omega^2)
\begin{pmatrix} 1 \\ \omega \\ \omega^2 \end{pmatrix}
$$
$$
\begin{pmatrix}
t_e & t_{c^2} & t_c \\
t_c & t_e & t_{c^2} \\
t_{c^2} & t_c & t_e
\end{pmatrix}
\begin{pmatrix} 1 \\ \omega^2 \\ \omega \end{pmatrix}
= (t_e + t_{c^2} \omega^2 + t_c \omega)
\begin{pmatrix} 1 \\ \omega^2 \\ \omega \end{pmatrix}
$$

問題

数研1級などでときどき見る問題である。

(1)　以下の行列式を実数の範囲で因数分解した形で求めよ。
$$
\begin{vmatrix}
a & d & c & b \\
b & a & d & c \\
d & c & b & a \\
c & b & a & d \\
\end{vmatrix}
$$

(2) 以下の行列の固有値と固有ベクトルを求めよ。

$$
\begin{pmatrix}
10 & 1 & 2 & 2 \\
1 & 10 & 2 & 2 \\
2 & 2 & 10 & 1 \\
2 & 2 & 1 & 10
\end{pmatrix}
$$

解答

あくまで群行列という特殊な場合だが、群行列式を頭の片隅にいれておくと、ちょっと得をしたような気分になれるかもしれない。

(1) 3行目と4行目を入れ替えると、4次の巡回群 $C_4$ の場合であることが分かる。 $C_4$ の指標は以下になるので、

$$
\begin{array}{c|cccc}
g \backslash f(g) & f_1 & f_2 & f_3 & f_4 \\
\hline
e & 1 & 1 & 1 & 1 \\
c & 1 & i & -1 & -i \\
c^2 & 1 & -1 & 1 & -1 \\
c^3 & 1 & -i & -1 & i
\end{array}
$$

答えは、行を入れ替えたのでマイナスをつけて、
$$-(a+b+c+d)(a - bi - c + di)(a -b + c - d)(a + bi - c - di) \\
= -(a + b + c + d)(a - b + c - d)(a^2 + b^2 + c^2 + d^2 - 2ac - 2bd)
$$

なお複素数の1次式の因子があれば、必ず複素共役な因子もあるので、実数の範囲では 1次式または2次式に因数分解されることになる。

(2) 以下のように 2 の1つを 2' に置き換えると、$C_2 \times C_2$ であることがわかる。$C_2 \times C_2$ の指標は

$$
\begin{array}{c|cccc}
g \backslash f(g) & f_1 & f_2 & f_3 & f_4 \\
\hline
e & 1 & 1 & 1 & 1 \\
p & 1 & 1 & -1 & -1 \\
q & 1 & -1 & 1 & -1 \\
pq & 1 & -1 & -1 & 1
\end{array}
$$
したがって
$$
\begin{vmatrix}
10 & 1 & 2 & 2' \\
1 & 10 & 2' & 2 \\
2 & 2' & 10 & 1 \\
2' & 2 & 1 & 10
\end{vmatrix}
= (10 + 1 + 2 + 2')(10 + 1 - 2 - 2')(10 - 1 - 2 + 2')(10 - 1 + 2 - 2') \\
= 15 \cdot 7 \cdot 9^2
$$

よって固有値は 15, 7, 9 の3つ。 5 の固有ベクトルは (1,1,1,1), 7 は (1,1,-1,-1) , 9 は2つあって (1,-1,-1,1) と (1,-1,1,-1) となる。

この手の問題も、群行列式をしらなくとも、(1,1,1,1) などが固有ベクトルであることを見つけることが肝である。

非可換群の場合

3 次の対称群 $S_3$ の場合、以下となるとのこと。

$$
\begin{vmatrix}
t_e & t_{r^2} & t_r & t_f & t_{rf} & t_{r^2f} \\
t_r & t_e & t_{r^2} & t_{rf} & t_{r^2f} & t_f \\
t_{r^2} & t_r & t_e & t_{r^2f} & t_f & t_{rf} \\
t_f & t_{rf} & t_{r^2f} & t_e & t_{r^2} & t_{r} \\
t_{rf} & t_{r^2f} & t_f & t_r & t_e & t_{r^2} \\
t_{r^2f} & t_f & t_{rf} & t_{r^2} & t_r & t_e \\
\end{vmatrix} \\
= (t_e + t_r + t_{r^2} + t_f + t_{rf} + t_{r^2 f}) \times \\
(t_e + t_r + t_{r^2} - t_f - t_{rf} - t_{r^2 f}) \times \\
(t_e^2 + t_r^2 + t_{r^2}^2 - t_e t_r - t_e t_{r^2} - t_r t_{r^2}

t_f^2 - t_{rf}^2 - t_{r^2f}^2

t_f t_{rf} + t_f t_{r^2f} + t_{rf} t_{r^2f})^2
$$

歴史的には、デーデキンドが以上の結果をもとに、非可換群一般についてはどうなるのかをフロベニウスに手紙で問い合わせたところ、フロベニウスはその重要性に気づいて、指標の概念を拡張することにより群の表現論を創始した、とのことである。

なお非可換群の場合　2次元以上の既約表現をもつが、規約表現 $f$ の次元を$dim(f)$とすると、その群行列式は

$$
\prod_{ f \in すべての既約表現 } ( dim(f) 次の多項式 )^{dim(f)}
$$

の形に因数分解されるとのことである。

参考

放送大学ラジオ代数の考え方梅田亨（京都大学大学院准教授）講義概要
- 残念ながら現在放送はない
- テキストは amazon market place 等で入手可だが 200ページちょっとなのに￥5,235 より。めちゃ高っ！　かつ詳しいことは何も書いていない。(ちなみにわたしが購入したときは￥1,403 だった）
The Group Determinant
KEITH CONRAD: [THE ORIGIN OF REPRESENTATION THEORY]
(http://www.math.uconn.edu/~kconrad/articles/groupdet.pdf)