はじめに
集合論を復習していたところ,ニューラルネットワークの活性化関数などに使われるシグモイド関数
が利用できそうだなーっていう証明を思いついたので紹介します。
問題
実数の集合$\mathbb{R}$と単位円$S^1:=\{(x,y)\in\mathbb{R}^2\ |\ x^2+y^2=1\}$の濃度が等しいことを示せ。
集合$A,B$の濃度が等しい $\left(|A|=|B|\right)$
$\iff$ $A$から$B$への全単射が存在する
$\iff$ $A$から$B$への単射と$B$から$A$への単射がともに存在する(Bernsteinの定理)
$\iff$ $|A|\leq |B|$ かつ $|B|\leq |A|$
**$A$から$B$への単射が存在するとき,$|A|\leq |B|$とかく。
証明
写像
\begin{align*}
S^1 &\to \mathbb{R}\\
(\cos x,\sin x) &\mapsto x\ \ \ \ (0 \leq x < 2\pi)
\end{align*}
は単射だから,$|S^1|\leq|\mathbb{R}|$。
一方,写像$f$を
\begin{align*}
\mathbb{R} &\to (0,1)\\
x &\mapsto f(x) := \frac{1}{1+e^{-x}}\ \ \ (\text{シグモイド関数})
\end{align*}
とすると$f$は単射。
(下図をみると,シグモイド関数は実数全体を開区間(0,1)に写す関数だとわかる)
よって写像
\begin{align*}
\mathbb{R} &\to S^1\\
x &\mapsto (\cos2\pi f(x), \sin2\pi f(x))
\end{align*}
も単射だから$|\mathbb{R}|\leq|S^1|$。
したがってBernsteinの定理から,$|\mathbb{R}|=|S^1|\ \ \ \Box$