機械学習とは

データを入力すると、データを出力する数式をモデルと呼ぶ。
-　モデルは原形を持っているが、学習データを元にパラメータが決まる。
　例　y = ax +b という式の原形は決まっているが、aとbはパラメータで「学習」で調整される。
　y を目的変数、xを説明変数と呼ぶ。

出力された値を元に「分類」や「値の予測（=回帰）」を行う。
　例　出力値を予測値として使う。10以上だったら「正」と判定する。

機械学習プログラムの手順

kaggleを例に手順を説明します。

データ読込み

CSVファイル等からデータを読み込みます。

EDA(探索的データ解析:Exploratory data analysis)

データの傾向を掴みます。（これにより、どの変数を使うか等を考えます。）
matplotlib,seaborn,pandas等を使います。

データの分布はどうなっているか？
データはどのような種類の値をとるか？
外れ値がないか？
欠損値（NULL）の値はないか？
変数間の相関はないか？（使わなくてよい変数はないか？）
目的変数の正解ラベルの分布はどうなっているか？

前処理

Pandasを使って、使用するデータを加工します。

外れ値　外れ値がある場合は除外します。
正規化モデルによっては、0～1の間に変数の値が収まるように正規化した方がよい。（線形回帰など）　
カテゴリー変数の数値化　数値への変換、または、One-Hotベクトル化する。使用するモデルによっては必要ない。
欠損値補完　欠損値がある場合、最大値や最頻値等で補完する。（あえて補完しない。補完する値も予測する等ある。）

モデル作成

モデルを作成します。
モデルの複雑度が上がるほど精度が上がるが、過学習しやすくなります。
単純なモデルほど解釈がしやすいです。

■分類
・ロジスティク回帰
・ニューラルネットワーク
・決定木
・決定木系（/Random Forest/XGboost/CatBoost/LightGBM)

■回帰系
・線形回帰モデル
・決定木系（Random Forest/XGboost/CatBoost/LightGBM)

チューニング

モデルのハイパーパラメータをチューニングします。（グリッドサーチ等の方法がある。）
例：決定木の木の数、深さ

検証

モデルが過学習を起こしていないか確認するため、学習データから検証用のデータを作成して評価します。

ホールドアウト法
交差検証法

評価

評価指標には以下のようなものがあります。

分類・・・Accuracy（正解率）、AUC(偽陽性率、真陽性率を考慮)
回帰・・・RMSE(平均平方二乗誤差：Root Mean Square Error)

採択

モデルを採択します。（精度がよい。分かりやすい等の基準で選びます。）

備考

from sklearn.preprocessing import LabelEncoder
le = LabelEncoder()

le.fit(train["Sex"])
train["Sex"] = le.transform(train["Sex"])
test["Sex"] = le.transform(test["Sex"])
```

```
le2 = LabelEncoder()
le2.fit(train["Embarked"])
train["Embarked"]  = le2.transform(train["Embarked"])
test["Embarked"]  = le2.transform(test["Embarked"])
```