応用数学で学んだ内容をこちらに記載して行きます。
今回は考察等はないため、短めの文章になっていますのでご理解いただけますと幸いです。
第1章 線形代数
行列積では、内積を利用した計算方法になる。
また行列式では、行列積とは異なり,ad-bcの計算式で求める。
逆行列とは、とある行列式Aに対し、左右どちらから掛け合わせても単位行列になるものを指す。
逆行列の計算式は、1/(ad-bc)*行列A(a,dを転置したもの、b,cは符号を反転したもの)にて求める事が可能。
また逆行列は、ad-bc=0の場合、存在しないので注意が必要。
固有値と固有値ベクトルについて、Ax = λxにて表現され
λを固有値, xを固有ベクトルという。
各求め方は、(A-λE)x = 0にてλ(固有値)を先に求め、λに数値を代入し固有値ベクトルを求める事が可能。
また、固有値分解とは、先程の固有値と固有値ベクトルを行列で考え3つの積に分解したものをいう。
計算式では、A = VΛV-1(固有ベクトルの行列*固有値のベクトル*固有値ベクトルの行列の逆行列) にて求める事が可能。
また、特異値分解では、m*nなど正方行列ではないものの固有値分解を当てはめたものをいう。
M = USV-1, M.T = VS.T U-1にて表現が可能。
Uは直行行列、Sは対角行列を示す。(直行行列は、転置した場合に逆行列になるものをいう)
また、特異値とはSの対角行列の対角の箇所を示す。正確には√を掛け合わせて求める。
第2章 確率・統計
条件付き確率は、特定化の状況での確率を示し、同時確率とは異なる。
求め方は、P(B|A) = P(A U B)/P(A)にて求める事ができ、ベイズ定理と考え方は同じである。
確率変数とは、事象を結びつく数値を示し、施行回数が良い例である。
また、期待値はsum(確率変数*確率)にて求める事が可能。
ベルヌーイ施行の期待値は、p、分散はp - p**2にて求める事ができる。
(ベルヌーイ施行は、n回施行し、k回成功する確率を求めるものである。
数式はnCk * p ** k(1-p) ** n-k である。また、その分布を示したものを2項分布という。)
第3章 情報理論
情報量とは、複雑さや珍しさ(確率の低さ)を示したものである。
数値が高いほど複雑であり、確率が低いほど情報量が多い。
式そのものは、-p(x)log(p(x))にて求める事が可能。
自己情報量は、-log(p(x))にて求める事が可能。
また、計算の単位は底が2ならばbit。底がネイビア数ならnatになる。
シャノンエントロピーとは、自己情報量の期待値の事を示し
-sum(p(x)log(p(x)))にて求める事が可能。
KLダイバージェンスは、確率変数q, pの似ている度合いを示し,q = pならば0で表示される。
0に近いほど2つの分布は似ている。
-∮p(x)log(q(x)/p(x))dxにて表示可能。