#これを知って何が嬉しいか
・多項式をベクトルや行列の形で表せる
・それにより線形代数でよく使う操作で元の多項式の性質がわかる(最大値、最小値など)
#1.一次形式
変数の一次の項のみからなる式を一次形式と呼びます。
n変数の一次形式は以下の通り
$f = a_{1}x_{1}+\ldots+a_{n}x_{n} = \sum_{i=1}^{n}a_{i}x_{i}\ldots(1)$
$a,x$をベクトルの形にすると
$a = \begin{pmatrix}a_{1}\\ \vdots \\a_{n} \end{pmatrix}\ldots(2)$
$x = \begin{pmatrix}x_{1}\\ \vdots \\x_{n} \end{pmatrix}\ldots(3)$
となります。
(1)は(2)、(3)より、ベクトルの内積として以下のように書けます。
$f = (a,x)\ldots(4)$
(4)を$x_{i}$で偏微分すると、
$\nabla{f} = a$
つまり、一次形式の微分の公式$\nabla{(a,x)}=a$が得られます。
#2.二次形式
変数の二次の項からなる多項式を二次形式と呼びます。
$n$変数の場合は以下の通り
$f = a_{11}x_{1}^2 + a_{22}x_{2}^2+\ldots+a_{nn}x_{n}^2+2a_{12}x_{1}x_{2}+2a_{13}x_{1}x_{3}
+\ldots+2a_{(n-1)n}x_{n-1}x_{n}$
or
$\sum_{i,j=1}^{n}a_{ij}x_{i}x_{j}\ldots(5)$
$a_{ij}=a_{ji}$と仮定して、対称行列$A$とベクトル$x$は
$A = \begin{pmatrix}a_{11}&\ldots&a_{1n}\\ \vdots&\ddots&\vdots \\a_{n1} & \ldots & a_{nn}\end{pmatrix}$
$x = \begin{pmatrix}x_{1}\\ \vdots\\x_{n}\end{pmatrix}$
上記のベクトルと行列により、(5)は以下の内積の形で書けます。
$f = (x,Ax)$(*この対称行列$A$は二次形式$f$の係数行列と呼びます)
個人的に$(5)$の$2a_{12}x_{1}x_{2}+2a_{13}x_{1}x_{3}
+\ldots+2a_{(n-1)n}x_{n-1}x_{n}$の部分が嫌だなと思っていたらすぐ後に、二乗和のみの形で表せることがわかりました。(二次形式の標準形)
具体的には、係数行列$A$の固有値を出してあげると二乗和の係数部分が求まります。
#参考文献
「これなら分かる最適化数学」(金谷、2015)