集合論
確率論に入る前に集合論を少し。
あまり数学的な厳密性にこだわらない。必要最低限にとどめたい。
最終的に、機械学習・深層学習につなげたいだけなので。。。
命題とは
集合論の最初にこういったことを学ぶみたい。まあ、学者先生の厳密性ということでしょう。
一応ここにしめしておく。
・数学を 学ぶ上で最も 基本的である論理学の基本
・「それが真 (true) であるか偽 (false) であるかがはっきりとしている事柄」を命題という
集合とは
・簡単に言えば「ものの集まり」
・「ものの集まり」が ”すべて集合” ではない。
例)「大きい数の集まり」「お金持ちの集まり」などはその基準が明確でなく、集合とは言えない。
集合の記述の仕方
集合の記述の仕方は実は複数パターンある。
記述パターン1:内包的記法
「x に関する 命題 P(x) が真と なる ような x の集まり」
$\{x | P(x)\}$
といった記述になる。
かっこでくくって、縦棒の前が要素。縦棒の後ろが命題。
例)
「 100 以上の整数の集まり 」は {x | x ∈ Z かつ x ≥ 100}
記述パターン2:外延的記法
要素を列挙して定義できる
$\{x_1,x_2,x_3\}$
例)
「10以下の素数全体の集合」は
$\{n|nは素数,n≦10\}$
と記述できるし(こっちは記述パターン1)
$\{1,3,5,7\}$
とも記述できる(こっちは記述パターン2)
集合の種類
要素
部分集合
・B を A の部分集合
B ⊂ A ま たは A ⊃ B と 書く 。
B ⊂ A であり 、 かつある x ∈ A があっ て x 6∈ B
である と き B を A の真部分集合と いい B ( A ま たは A ) B と 書く 。
集合論で使う記号
元・・・対象 x が集合 E の元であることを x $\in$ E 。対象 x が集合 E に属する。要素ともいう。
$\cap$ 共通部分
⊂ 部分集合
$\cup$ 和集合
$\emptyset$ 空集合・・・標本点を1つも含まない集合のこと。
$A^c$ A の補集合
$\in$ 元(要素)の集合に対する帰属関係・・・これだけ要素と集合の話
詳細は以下
https://ja.wikipedia.org/wiki/%E6%95%B0%E5%AD%A6%E8%A8%98%E5%8F%B7%E3%81%AE%E8%A1%A8
写像
集合論のあとは写像の話が出てくる。まあ、当たり前と言えば当たり前か。。。
2つの集合の各々の要素間の関係を示す。
Aの各元に対しBの元が1つ定まっている対応のこと。
$f:AB$
確率論
公理論的確率(測度論的確率)
ここでは、数学的確率(古典的確率、事象論)・統計的確率(頻度論)についてはいまさらなので述べない。
知りたきゃここ 姉妹ブログ
https://strongerthansword.hatenablog.com/entry/2020/08/16/171218
*測度論の測度とは・・・面積、体積を示す。
*測度論とは・・・面積、体積をどのように求めるかを述べている。
*面積・・・積分を使うが、積分論では「リーマン積分(みんな習うやつ)」「ルベーグ積分」がある
*
確率論の基礎概念
確率論の前提
・確率論の文脈で扱えるのは、「」
・確率論で扱えるは以下の2つの前提を満たす場合である。
【前提1】起こりうる結果が何が起こるか分かっている・・・知識は十分
【前提2】どの結果が起こるのかだけが事前に分からない
例)サイコロを投げると1~6までが出ることは分かっている
確率論で扱うことが出来ない世界
何が起こるか皆目見当がつかない
事前の知識がない状態では確率論は無力である
例)未知の生命体に遭遇する確率は?
例)洞窟の中で財宝を発見する確率は?
試行
・[取り澄ました表現・固い表現]明確に定義された実験や観察の単一の実行
・一定の条件下で繰り返し行うことが出来る
・結果が偶然に支配される実験や観測のこと
例)「サイコロを投げる」という行為・・・確かに結果は偶然に左右されるよなぁ!
標本空間 $\Omega$
・ある試行で起こりうる結果からなる集合
・空集合でない集合で起こりうる結果全体の集合。・・・標本空間っていうのは集合です!!
・$\Omega$ の元 ω それぞれには起こりやすさの割合が備わっていることを仮定する。
例)6面体のサイコロでいうと$\{1,2,3,4,5,6\}$の集合のこと。
【特徴】標本空間は、無限集合・有限集合両方ありうる
例)有限集合・・・サイコロ$\ $$\Omega=\{1,2,3,4,5,6\}$
例)無限集合・・・車の寿命$\Omega=[0,\infty)$
事象
・標本空間の部分集合のうち確率をもつもの・・・事象も集合です!!
・「試行」の結果
・「試行」によって起こる事柄
・標本空間のうち、我々が
例)サイコロの目が奇数である。$A=\{1,3,5\}$
事象は起こったとは・・・試行の結果、事象Eの中の標本点ωが発生すること
例)式で書くと ω$\in$E
空事象・・・標本点を1つも含まない事象。これ以上細かく分解しようがない事象。
根元事象・・・1つの標本点からなる事象
余事象
排反事象(disjoint)・・・2つの事象が同時に起こらない。
[定義] A$\cap$B=$\emptyset$・・・AとBは互いに排反である
つまり、片っ方が起こると、排反と分かっていると、他方は強制的に起こらなくなる。
例1)サイコロの目を以下の事象A,Bとする。同時に発生することがないので互いに排反である。
事象A:{1,3,5}(奇数の目が出る事象)
事象B:{2,4,6}(偶数の目が出る事象)
例2)物理と数学の単位を取れるかどうか。
互いに排反だとこれは困る。物理の単位が取れると数学は問答無用で単位が取れなくなる。
これは良くない例です。
確率空間
確率論の基礎
「同時確率」「条件付き確率」「乗法定理」「加法定理」「ベイズの定理」
・同時確率 $P(A \cap B)$
・条件付き確率 $P(A \vert B)$
乗法定理[同時確率を求める]・・・2つの事象が同時に起こる確率は、1つひとつの確率の掛け合わせ
同時確率は各々の確率の積になる
加法定理・・・条件がいくつかに分けられた場合の確率計算
集合論と確率論のクロスロード
$E\subset \Omega$
$F\subset \Omega$
集合論 | 確率論 | 数式 | 読み方 |
---|---|---|---|
和集合 | 和事象 | E$\cup$F | union |
積集合 | 積事象 | E$\cap$F | intersection |
差集合 | 差事象 | E-F | difference |
全体集合 | 全事象 | $\Omega$ | |
空集合 | 空事象 | $\emptyset$ | |
補集合 | 余事象 | $E^c$ | complement |
これらより、集合論と確率論は非常に近い関係にあることが分かる!!
・集合の面積を求めよ => 確率論である 測度論を使うのはこれが理由
・集合の体積を求めよ => 確率論である 測度論を使うのはこれが理由
・$\Omega$の面積を1とする。事象Eの確率は「1のうちの何割の面積を占めているのか?」と同じ
・$\omega\in\Omega$は常に成立する。事象$\Omega$は必ず起こる。
・E$\cap$F = $\emptyset$ 起こりえない事象を$\emptyset$で表す
・$E^c$ = $\Omega-E$
事象の確率
いよいよ確率が出た!!
事象Eの確率は。。。。P(E) で表す。
つまりカッコの中は、集合で表します。
例)サイコロの偶数の出る目の確率は。。。P({2,4,6})
前にも述べたけど、集合は{}で表すんだなぁ!!
確率の条件
公理1.<<非負性>> P(E)$\geq$ 0
公理2.<<完全加法性>>P($\Omega$) = 1 必ず起こる事象に関しては1と定義する!
公理3.$E_i \cap E_j = \emptyset$(i $\neq$ j)である事象列に対して
P(\cup_{i=1}^\infty E_i)=\sum_{i=1}^\infty P(E_i)
加算無限個の和集合 加算無限個の実数の和
おのおの無限個の和なので**「完全加法性」と呼ぶ
おのおの有限個の和だとすれば「有限加法性」**と呼ぶ
実数値集合関数
通常確率は、実数で表される。したがって、実数値集合関数とも呼ばれる。
集合Eが与えられたときに、実数P(E)がマッピング(写像)された。
P:E$\rightarrow$P(E)
参考
TEX
http://www27.cs.kobe-u.ac.jp/~masa-n/misc/cmc/j-kiso2001/iabasic/jlshort/node34.html