コサイン類似度の式

$$
\cos\theta = \frac{\mathbf{A}\cdot\mathbf{B}}{|\mathbf{A}|,|\mathbf{B}|} = \frac{\sum_{i=1}^{n} A_i B_i}{\sqrt{\sum_{i=1}^{n} A_i^2};\sqrt{\sum_{i=1}^{n} B_i^2}}
$$

式の意味を理解する

分子の理解

分子はベクトルの内積であり、以下2通りの書き方があります。

①成分で計算する方法(式で使っている形)

$$\mathbf{A}\cdot\mathbf{B} = A_1B_1 + A_2B_2 + \cdots + A_nB_n$$

②長さと角度で計算する方法(幾何学的な形)

$$\mathbf{A}\cdot\mathbf{B} = |\mathbf{A}|,|\mathbf{B}|\cos\theta$$

そして②は、次のように括弧をつけて読むと意味がわかります。

$$\mathbf{A}\cdot\mathbf{B} = |\mathbf{A}| \cdot (|\mathbf{B}|\cos\theta)$$

$|\mathbf{B}|\cos\theta$ は、BをAの方向に落とした「影」の長さです。
つまり内積は 「Aの長さ × Bの影の長さ」 であり、2つのベクトルがどれだけ同じ方向に伸びているかを、長さ込みで測った量です。

角度ごとの $\cos\theta$ の値は次のとおりです。

同じ方向を向いている → $\cos 0^\circ = 1$(影がBの長さそのまま)
直角に交わる → $\cos 90^\circ = 0$(影が消える)
真逆を向いている → $\cos 180^\circ = -1$(影がAと逆向き)

①と②が同じ値になる理由

①は座標の掛け算と足し算だけで計算でき、角度は不要です。
②は角度と長さを使います。この2つが一致することは、余弦定理から示せます(本記事では省略します)。

この一致のおかげで、座標さえわかれば、角度を測らなくても「影の量」を計算できます。

分母の理解

内積は長さに依存します。Bを10倍にすると、方向が同じでも内積は10倍になります。
そこで $|\mathbf{A}|,|\mathbf{B}|$ で割って、長さの影響を取り除きます(正規化)。

具体例で考えます。文章を単語の出現回数でベクトル化したとします。

文書A:「車」3回、「エンジン」2回
文書B:「車」30回、「エンジン」20回

Bは長い文書で、全体の回数がAの10倍です。ユークリッド距離で測ると「大きく離れている」ことになります。しかしコサイン類似度では、単語の比率が同じなので類似度は1になります。

「内容の構成比が同じか」 を見たいときに、文書の長さに左右されないのが最大の利点です。

※出現回数そのものに意味がある場合は、コサイン類似度は適さないことがあります。

図で見る理解

Bの長さを変えてみる
長さを変えても角度は変化しないため、コサイン類似度は変わらないです。

角度だけを動かしてみる
これがコサイン類似度そのものの値であり、変化します。

cosθが意味を持つ理由

$$
\cos\theta = \frac{\text{底辺(角θに接する辺)}}{\text{斜辺}}
$$

図の黄色い線(BをAの方向に落とした影)を、斜辺(B自体の長さ)で割った値がcosθです。
つまりcosθは、「Bの長さのうち、Aの方向を向いている部分が何割か」 を表します。
Bの長さが変わっても、この割合は変わりません。これがコサイン類似度が長さに依存しない理由です。