※以下、個人的な勉強のためのレポートです。
※間違い多々あると存じますが、現在の理解レベルのスナップショットのようなものです。
※勉強のためWebサイトや書籍からとても参考になったものを引用させていただいております。
線形代数について
- 「5」、「-3」、「1.5」などのように、大きさのみを持つ量をスカラー(scalar)という。
一方、大きさと向き(角度)を持つ量をベクトル(vector)という。
$$
\begin{bmatrix}
100 & \pi
\end{bmatrix}
$$
$$
\begin{bmatrix}
30 & 40i
\end{bmatrix}
$$
電気数学などで用いられる複素平面などはその例であるが、ベクトルは別に2値をまとめたものというわけではなく、共通の要因をひとまとめにしたものであればよく、
$$
\begin{bmatrix}
3 & 4 &5
\end{bmatrix}
$$
や
$$
\begin{bmatrix}
3 \\
4 \\
5
\end{bmatrix}
$$
といった記法をとることもできる。行ベクトル(横ベクトル)、列ベクトル(縦ベクトル)行ベクトルを縦に、列ベクトルを横に並べたものを行列(matrix)という。
- 線形代数はこの行列の演算を扱う数学の分野である。線形代数はInformation Science分野において応用として用いられている。コンピュータグラフィクスの分野で用いられる線形写像、以下本稿で記述する固有値解は線形代数学が扱う代表的なトピックである。
固有値・固有ベクトル・固有値分解について
- ある行列Aについて
A\vec{x} = λ\vec{x}\\
が成立するとき、
行列Aの固有値をλ、固有ベクトルを$\vec{x}$という。
これは「どんな一次変換でも、必ず向きが変わらないベクトルが存在する」つまり、「もとのベクトル$\vec{x}$を行列Aによって一次変換したベクトルが、定数λ倍したものとなっている」ことを示す。正方行列には固有値と固有ベクトルが存在する。
ある行列の固有値と固有ベクトルを求めることを、固有値分解という。
ある行列を固有値分解することで、その行列の特徴的な性質をとらえることができる。このことにより、異なる行列AとBの固有値分解を行い、類似度を調べることなどが可能になる。
特異値・特異ベクトル・特異値分解について
- 上述したように、固有値分解は正方行列にのみ適用できるものである。しかしながら、自然言語処理における単語データや、画像解析における画像処理データなどはたくさんの要素を持つ矩形行列である。そのような矩形行列データの分析に固有値分解に類似した手法として用いることができるのが、特異値分解である。
- Mを矩形行列とし、ある非負の実数σをおく
M\vec{v}=σ\vec{u}\\
M^T\vec{u}=σ\vec{v}
この条件を満たす単位ベクトルがあるとき、実数σを行列Mの特異値(singular value)と呼び、$\vec{u}$を左特異ベクトル(left-singular vactor)、$\vec{v}$を右特異ベクトル(right-singular vactor)と呼ぶ。
- この特異値分解の手法を用いることにより、正方行列の特徴的性質の調査に使った固有値分解の手法を矩形行列に持ち込むことが可能になる。
- googleのページランクのアルゴリズムにも、これら「行列」や「線形代数」、「固有ベクトル」といった数学的手法が取り入れられている。単純なリンク数といったスカラー量だけではなく、リンクの方向や重要度の高いページからのリンクについてweightを加味するなどといった「本当に重要なページを検索上位にもってくるために、Webページをデータとしてとらえた場合、どのように分析すれば有益な価値として比較できるのか」を考慮したアルゴリズムにも使用されている。
引用
「マンガ 線形代数入門」鍵本聡 北垣絵美
「マンガでわかる線形代数」高橋 信
線形代数って何？https://oguemon.com/study/linear-algebra/hello-world/
電磁気学/ベクトル解析https://www.agr.nagoya-u.ac.jp/~mechbio/lecture_denjiki_vector.html
ベクトルと行列の定義http://www.snap-tck.com/room04/c01/matrix/matrix01.html
ラビットチャレンジhttp://ai999.careers/rabbit/