要点
線形代数学
線形回帰モデル
スカラーは通常の数であり、ベクトルは「大きさ」と「向き」を持つ
正則行列の場合、「ad − bc ≠ 0」が成り立つ→逆行列が存在する
固有値と固有ベクトルの求め方
行列Aに対する固有ベクトル
特異値分解
データを減らすとき、単純にデータを減らしていくと、元の画像と異なる画像になってしまう
そのため、特異値を減らすことで、元の画像が分かるまま、データを減らすことがができる
統計学
集合
ものの集まり
確率
頻度確率(客観確率)→発生する頻度
ベイズ確率(主観確率)→信念の度合い
条件付き確率→ある事象Bが与えられた下で，Aとなる確率
→条件付きの場合、確率が高くなってしまうので注意が必要
統計
推測統計：集団から一部を取り出し、元の集団（母集団）の性質を推測する
記述統計：集団の性質を要約し記述する
二項分布・・・ベルヌーイ分布の多試行版
ガウス分布・・・真の分布が不明な際、ガウス分布で仮置きをする
情報科学
自己情報量
→どれだけ珍しいのか
シャノンエントロピ
→自己情報量の期待値(平均値)
→最大になるとき、最も現実で起こりやすい
交差エントロピー
Qについての自己情報量をPの分布で平均
カルバック・ライブラー ダイバージェンス
同じ事象・確率変数における異なる確率分布P・Qの違いを表している
