3章教師なし学習と前処理

教師なし学習の難しさ

　教師なし学習では、アルゴリズムに何を正解とするかを「教える」方法がないので、
アルゴリズムを評価するには、人間が結果を確かめる必要がある。

　教師なし学習は単体で運用するよりも、
教師あり学習の前処理段階で使われることが多い。

さまざまな前処理

StandardScaler

原点から離れた距離にあるデータ群を原点の近くに移動させるために
StandardScalerを使う。

RobustScaler

　StandardScalerだと、原点から極端に離れたデータは原点から遠いままである。

　なるべく原点に近づけるように全体を縮小するのがRobustScalerである。

MinMaxScaler

　RobustScalerの場合、全体を縮小しても外れ値が存在する。

　外れ値が出ないように、すべてを半径1の円に収めるように変換するのが
MinMaxScalerである。

Normalizer

　データをベクトルとして見た際に、
長さではなく角度のみを見る時にNormalizerを使う。

次元削減、特徴量抽出、多様体学習

主成分分析(PCA)

　PCA(Principal Component Analysis)とは、
早い話が回転である。

　特徴量1と特徴量2が互いに直交しているデータを回転し、
主となる特徴量1のみを見るために、特徴量2の成分をそぎ落とす。

非負値行列因子分解(NMF)

　NMF(Non-negative Matrix Factorization)は、
すべてのデータの総和を計算することによって
原点からデータのある方向のベクトルを算出するため、
マイナスが含まれるデータに対しては使えない。

t-SNEを用いた多様体学習

　PCAはデータを回転する必要があるため、実際に使える場面は限られてくる。
t-SNEは次元を圧縮し、2点間を確率分布で表現する。

クラスタリング

　データを「クラスタ」と呼ばれるグループに分類することを**クラスタリング(clustering)**という。

k-meansクラスタリング

　クラスタ重心を見つけて分類するのがk-meansクラスタリングである。
以下の手順に沿って分類していく。

①クラスタ毎に各点の平均値を計算する。

②各データを、一番近いクラスタの平均値のクラスタにする。

　①と②を変化がなくなるまで繰り返す。

凝集型クラスタリング

　**凝集型クラスタリング(agglomerative clustering)**は、
「クラスタを2つに分類する」などの終了条件を設定し、
近くにあるデータを同じクラスタとみなす作業を
終了条件を満たすまで繰り返す。

　以下に例を示す。
この例では、「クラスタを2つに分類する」ことを終了条件とする。

　□を〇とみなし、

　☆を×とみなし、

　残りも〇と×に分類され、
クラスタは2つに分類された。

DBSCAN

　**DBSCAN(Density-Based Spatial Clustering of Application with Noise)**とは、
密度をもとに、データをノイズかそうでないかを判断するアルゴリズムである。
パラメータとして、半径eps、最低サンプル数min_samplesを設定する。
以下の例では、min_samplesを3とする。

　まず、ランダムに１つの点を選ぶ。

　その点から半径eps内にデータがmin_samples個以上あれば、
その点はコアサンプルとなる。
なければ、ノイズ扱いとなる。

　半径eps内にあるデータは、境界ポイントとして扱う。
各境界ポイントに対しても同様の処理を行う。

　最終的に、データはコアサンプル、境界ポイント、ノイズの３種類に分類される。