応用数学

第1章 線形代数

1. 単位行列
   • 前後にかけてもかけられる行列が変化しない「1」のような行列を単位行列という。
2. 逆行列
   • 行基本変形に対応する行列の「逆数」のような働きをする行列を逆行列という。
   • 逆行列は「掃き出し法」で求める。
   • 逆行列が存在しない行列もある。
   • 逆行列の有無は行列式を使う。
3. 固有値
   • A⃗𝑥=𝜆⃗𝑥が成り立つ場合のスカラーの数λを「固有値」という。
4. 固有値ベクトル
   • A⃗𝑥=𝜆⃗𝑥が成り立つ特殊なベクトルを「固有ベクトル」という。
5. 固有値分解
   • 正方形の行列を3つの行列の積に変換することを「固有値分解」という。
   • 正方行列を固有値と固有ベクトルを組み合わせて表す方法のこと。
6. 特異値
   • 特異値分解における、非ゼロの対角成分のこと。
7. 特異値ベクトル
   • 特異値に対応する固有ベクトルのこと。
8. 特異値分解
   • 線形代数学における、複素数あるいは実数を成分とする行列に対する行列分解の手法の一つのこと。

第2章 確率・統計

　
1. 頻度確率(客観確率)
   • ある頻度で事象が起こる客観的な確率のこと。
2. ベイズ確率(主観確率)
   • 何か新しい情報を得るたびに更新していく主観的な確率のこと。
   • 何も情報がない状態で設定する確率を「事前確率」という。
   • 情報を取得した後に設定する確率を「事後確率」という。
3. 条件付き確率
   • ある事象X=xが与えられた下でY=yとなる確率のこと。
4. 同時確率
   • お互いの発生には因果関係のない事象X=xと事象Y=yが同時に発生する確率のこと。
5. ベイズ則(ベイズの定理)
   • 「ある事象 A が起こったという条件のもとでの事象 B の確率 P(B|A)」を使い、「ある事象 B が起こったという条件のもとでの事象 A の確率 P(A|B)」を求めること。
6. 確率変数
   • ある変数の値をとる確率が存在する変数のこと。
7. 確率分布
   • 確率変数がとる値とその値をとる確率の対応を表した表のこと。
8. 期待値
   • 確率変数のすべての値に確率の重みをつけた加重平均のこと。
9. 分散
   • データのそれぞれの値が，期待値からどれくらいズレているのかを平均したもの。
10. 共分散
    • 2つの対応するデータ間において、平均からの偏差の積の平均値のこと。
11. 標準偏差
    • 分散の正の平方根のこと。
12. ベルヌーイ分布
    • 数学において、確率 p で 1 を、確率 q = 1 − p で 0 の値をとる、離散確率分布のこと。
13. マルチヌーイ(カテゴリカル)分布
    • ベルヌーイ分布を一般化した確率分布で、二値ではなく、K値の場合をとる離散確率分布のこと。
14. 二項分布
    • 結果が成功か失敗のいずれかである試行を独立にn回行ったときの成功回数を確率変数とする離散確率分布のこと。
15. 多項分布
    • 確率論において二項分布を一般化した確率分布のこと。
16. ベータ分布
    • コイン投げにおける表が出る確率の予測分布のこと。
17. ディリクレ分布
    • ベータ分布を多変量に拡張したような分布のこと。
18. ガウス分布(正規分布)
    • 左右対称・釣り鐘型の性質をもつ確率論や統計学で用いられる連続的な変数に関する最も一般的な確率分布のこと。

第3章 情報理論

1. 自己情報量
   • あることが分かった際の「そのことの情報量」のこと。
   • 対数の底が2のとき，単位はビット(bit)である。
   • 対数の底がネイピアのeのとき，単位は(nat)である。
2. 自己エントロピー(選択情報量)
   • 事象 E が起こる確率を P(E) とするとき、事象 E が起こったと知らされた時の情報量のこと。
3. シャノンエントロピー(平均情報量)
   • 事象 E が起こる確率を P(E) とし、すべての事象 E ∈ Ω に対して、その情報量の期待値のこと。
4. KLダイバージェンス(カルバック・ライブラー情報量)
   • 確率論と情報理論における2つの確率分布の差異を計る尺度のこと。
5. 交差エントロピー
   • 情報理論において、2つの確率分布の間に定義される尺度のこと。