概要
今回はモデル学習の一通りの流れを実施します。
メモ的なものとしてみていただければと思います。
モデル学習の準備
インポート
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error as MSE
from sklearn.linear_model import LinearRegression as LR
データの分割
scikit-learnライブラリのtrain_test_split関数
X_train, X_test, y_train, y_test = train_test_split(説明変数、目的変数, random_state=num, test_size=sizeNum)
random_state：毎回同じように分割(過学習を防止)
test_size：分割割合を指定(0.2の場合、全データのうち、80%を学習用データ、20%を評価用データ)
学習データ75%、評価データ25%となるように分割
評価関数の定義
RMSE(Root Mean Squared Error)
MSEは予測誤差の絶対値をとるが、RMSEでは予測誤差を2乗する。そのため、MSEよりも解釈が難しいが、大きな予測誤差を出さないモデル傾向となる
1.numpyのみライブラリでの実装
# データの生成
actual = np.array([4,6,8]) # 実績値
pred = np.array([2,8,10]) # 予測値
# numpyのarray型同士を引き算すると各要素ごとに引き算が実行
a = actual - pred
print(a) # [ 2 -2 -2]
# 累乗はnp.power関数を使用。引数にはn乗のnの値
b = np.power(a, 2)
print(b) # [ 8 -8 -8]
# 要素同士の足し算にはnp.sum関数を使用
c = np.sum(b)
print(c) # -8
# cの値をデータのサイズで割り算
d = c / 3
print('d',d) # -4.0
# np.sqrt関数で平方根を取る
e = np.sqrt(d)
# 計算結果の表示
print(e) # 2.0
↓ 1行で記述すると
RMSE = np.sqrt(np.mean(np.power(actual-pred,2)))
- scikit-learnライブラリでの実装
scikit-learnにはRMSEが未実装のため、RMSEの平方根を取る前の値であるMSE(Mean Squared Error)を利用し、RMSEを算出
np.sqrt(MSE(実績値, 予測値))
モデルの学習
線形回帰モデル
- 単回帰モデル：y = ax + b、aが傾き、bが切片
- 重回帰モデル：y = a1x1 + a2x2 + … + b、 aが各説明変数の係数、bは切片
重回帰モデルの作成
scikit-learnライブラリのLinearRegressionで重回帰モデルの作成が可能
# データの分割
X_train, X_test, y_train, y_test = train_test_split(X(説明変数), y(被説明変数), random_state=32)
# モデルの生成
lr = LR()
# モデルの学習
lr.fit(X_train, y_train)
モデルの精度評価
予測値の取得
skleanライブラリのpredictで予測値を取得可能
y_pred_train = lr.predict(X_train)
↓ 結果の例
# numpyの配列を表すndarray型で返ってくる
[25.22182295 22.71044791 33.42986757 23.12417403 21.86445237 20.96844498
27.32922 25.61715159 15.64848023 18.74273426 26.67452757 25.33549792]
RMSE
学習データのRMSE
# MSEの算出
mse = MSE(y_train(実績値), y_pred_train(予測値))
# RMSEの算出
rmse_train = np.sqrt(mse)
↓
7.777777777777777
汎用化性能の検証
評価データへの予測値
# X_testに対する予測値を算出
y_pred_test = lr.predict(X_test)
過学習の検証
過学習が発生している場合、学習データへの予測精度は高いが、評価データへの予測精度が著しく低い
＜正常＞
学習データのRMSE = 0.64
評価データのRMSE = 0.55
＜過学習＞
学習データのRMSE = 0.00
評価データのRMSE = 0.91
*RMSEは値が小さいほど誤差が小さい
評価データのRSME
# MSEの算出
mse_test = MSE(y_test, y_pred_test)
# RMSEの算出
rmse_test = np.sqrt(mse_test)
予測精度の可視化
具体的な予測値の傾向として、予測値が小さい時に外しやすいのか、大きい時に外しやすいのかを把握することができれば、予測モデルを改良するアプローチを検討するためのヒントとなる。その可視化方法として、縦軸を予測値、横軸を実測値とした散布図を利用。
手順
- グラフのサイズを指定して、グラフの大きさを正方形になるように設定
- 横軸を実測値、縦軸を予測値として、散布図を描画
- y_test、y_pred_testの両方を見た上での最小値と最大値を算出
- 最小値と最大値を使い、x軸およびy軸の値域を指定し、揃える
- 対角線を描画
正方形の散布図
matplotlibライブラリのplt.figure関数でグラフのサイズを指定、plt.scatter関数で散布図を描画
# サイズ指定
plt.figure(figsize=(横幅, 縦幅))
# 散布図
plt.scatter(y_test(X軸), y_pred_test(Y軸))
# 可視化
plt.show()
最大値と最小値
numpyのnp.max関数とnp.min関数、np.maximum関数とnp.minimum関数で算出可能
# y_testの最小値・最大値を算出
test_min = np.min(y_test)
test_max = np.max(y_test)
# y_pred_testの最小値・最大値を算出
pred_min = np.min(y_pred_test)
pred_max = np.max(y_pred_test)
# 値を比較し、最終的な最小値・最大値を算出
min_value = np.minimum(test_min, pred_min)
max_value = np.maximum(test_max, pred_max)
最大値と最小値を適用
matplotlibライブラリのplt.xlim関数でx軸、plt.ylim関数でy軸の指定
# 今回は正方形を作成するので、xlimとylimの値は同じ
# plt.xlim([xmin, xmax])
plt.xlim([min_value, max_value])
# plt.ylim([ymin, ymax])
plt.ylim([min_value, max_value])
対角線の描画
matplotlibライブラリのplt.plot関数
# plt.plot([x1,x2],[y1,y2])
plt.plot([min_value, max_value],[min_value, max_value])
最終的なイメージ
下記のようなグラフから実績値が小さいもの時に比べて、実績値が大きい時に予測誤差が大きい傾向があることがわかり、予測モデルの改善に繋げることが可能
予測精度の改善
ダミー変数
- 質的データを量的データに変換
Pandasのpd.get_dummies関数でダミー変数を生成可能
sample = pd.DataFrame({'index':[0,1,2],'果物':['みかん','いちご','メロン'],'個数':[100,200,300]})
dummy = pd.get_dummies(sample)
↓ One-Hot表現：1カラムだけを「1」としてデータを表す方法
# 自動的に質的データのみをダミー変数化
index 個数 果物_いちご 果物_みかん 果物_メロン
0 0 100 0 1 0
1 1 200 1 0 0
2 2 300 0 0 1
RSMEを再度算出して、再検証可能となる
対数化
- ある値を対数変換
- 指数関数に線形回帰モデルが当てはめることができないため、指数関数を対数化し、直線にする
numpyライブラリのlog関数で対数化
# DataFrameにはないカラム名を指定して値を代入した場合、新しいカラムとしてDataFrameに追加
DataFrame['新たなカラム名'] = np.log(DataFrame['対数化するカラム名'])
RSMEを再度算出して、再検証可能となる
コードのまとめ
# ライブラリのimport
import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression as LR
from sklearn.metrics import mean_squared_error as MSE
# データの読み込み
data = pd.read_csv('data.tsv', sep='\t')
# idの削除
data = data.drop(columns=['id'])
# 欠損値を含む行の削除
data = data.dropna()
# 対数化
data['new_column']= np.log(data['column'])
# 目的変数及び説明変数を表す変数の準備
y = data['obj_column'] # 目的変数
X = data[['sbj_column1','sbj_column2']] # 説明変数
X = pd.get_dummies(X) # 各説明変数のダミー変数化
# データの分割
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state = 1)
# モデルの箱の準備および学習
lr = LR()
lr.fit(X_train, y_train)
# 予測値の算出
y_pred_train = lr.predict(X_train)
y_pred_test = lr.predict(X_test)
# MSEの算出
mse_train = MSE(y_train, y_pred_train)
mse_test = MSE(y_test, y_pred_test)
# RMSEの算出
rmse_train = np.sqrt(mse_train)
rmse_test = np.sqrt(mse_test)
最後に
今回は予測モデルの基本的な作成手順・方法についてのメモとして書きました。
こちらでは、実際のデータを用いて予測モデルを作成し、SIGNATEに提出するところまで行っていますので、合わせてご覧いただけると良いかと思います。
- Miyata Koki - O:inc.でAmplify×React×React Nativeを使用して開発しています。大学のゼミでは統計学をPythonで行っています。 インターンやゼミで学んだ情報を発信していくので、フォロバもしますのでぜひこちらのアカウントのフォローお願いします！