5
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

AutoML(AutoGluon)を使ってみた

Posted at
  • 製造業出身のデータサイエンティストがお送りする記事
  • 今回はAutoML ライブラリー(AutoGluon)を使ってみました。

##はじめに
過去に他のAutoML ライブラリーやツールについては、別の記事に纏めておりますので下記をご参照ください。

また、今回はローカル環境では上手く環境構築ができなかった(エラーが直す時間が無かった)ため、Google Colaboratory で実装しております。
ここも単純にpip install ではエラーが発生しましたので、2021/6/24時点では下記方法で実行できると思いますが、将来的に上手くいかない可能性はございます。

##AutoGluon を使ってみた

ライブラリーのインストールは下記です(Google Colab 使用前提)。

!pip install --upgrade pip
!pip install --upgrade setuptools
!pip install --upgrade "mxnet<2.0.0"
!pip install --pre autogluon

今回もUCI Machine Learning Repositoryで公開されているボストン住宅の価格データを用いて実施します。

# ライブラリーのインポート
from autogluon.tabular import TabularDataset, TabularPredictor

import pandas as pd
import numpy as np

import seaborn as sns
import matplotlib.pyplot as plt

%matplotlib inline

# ボストンの住宅価格データ
from sklearn.datasets import load_boston

# 前処理
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split

# データセットの読込み
boston = load_boston()

# 説明変数の格納
df = pd.DataFrame(boston.data, columns=boston.feature_names)
# 目的変数の追加
df["MEDV"] = boston.target

# ランダムシード値
RANDOM_STATE = 10

# 学習データと評価データの割合
TEST_SIZE = 0.2

# 学習データと評価データを作成
x_train, x_test, y_train, y_test = train_test_split(
    df.iloc[:, 0 : df.shape[1] - 1],
    df.iloc[:, df.shape[1] - 1],
    test_size=TEST_SIZE,
    random_state=RANDOM_STATE,
)

# trainのデータセットの2割をモデル学習時のバリデーションデータとして利用する
x_train, x_valid, y_train, y_valid = train_test_split(
    x_train, y_train, test_size=TEST_SIZE, random_state=RANDOM_STATE
)

label = 'MEDV'
feature_names = x_train.columns
train_data = x_train.copy()
train_data[label] = y_train
test_data = x_test.copy()
test_data[label] = y_test

最初に基本的なオプション指定無しで実行してみます。

predictor = TabularPredictor(label='MEDV', problem_type='regression').fit(train_data) 
leaderboard = predictor.leaderboard(test_data)
leaderboard

スクリーンショット 2021-06-24 9.41.44.png

回帰モデルのデフォルトscore-testに表示されている指標はRMSE です。また、全て最大化問題として解けるように-1倍されているため、-1倍した結果が通常のRMSE の値となります。

他の評価指標も下記コマンドで見れます。

y_pred = predictor.predict(test_data)
print("Predictions:  ", y_pred)
perf = predictor.evaluate_predictions(y_true=y_test, y_pred=y_pred, auxiliary_metrics=True)

出力される結果は下記です。

Evaluation: root_mean_squared_error on test data: -3.77979101112008
	Note: Scores are always higher_is_better. This metric score can be multiplied by -1 to get the metric value.
Evaluations on test data:
{
    "root_mean_squared_error": -3.77979101112008,
    "mean_squared_error": -14.286820087744163,
    "mean_absolute_error": -2.557449280981924,
    "r2": 0.8633895717302121,
    "pearsonr": 0.9332392557691281,
    "median_absolute_error": -1.7555456161499023
}
Predictions:   305    29.202087
193    28.663527
65     26.790657
349    23.962158
151    18.179682
         ...    
208    23.886160
174    25.854280
108    19.739082
242    20.812876
102    17.641972
Name: MEDV, Length: 102, dtype: float32

次に高精度モデルのAutoGluon を使用してみようと思います。
presets='best_quality' をオプションとして指定するだけですので非常に簡単です。

predictor = TabularPredictor(label='MEDV', problem_type='regression').fit(train_data, presets='best_quality') # 高精度モデル
leaderboard = predictor.leaderboard(test_data)
leaderboard

スクリーンショット 2021-06-24 9.49.55.png

presets のオプションとしては下記パターンが用意されているようで、高精度順にできる順番で下記に記載しておきます。

  • best_quality
  • best_quality_with_hiigh_quality_refit
  • high_quality_fast-inference_only_refit
  • medium_quality_faster_train
  • optimize_for_deployment

また、time_limits オプションを使うことで設定した学習時間内で高精度なモデルを作成するように指定することもできます。

次にauto_stack のオプションを有効化し、たそうスタックアンサンブルを実行できるようにします。

predictor = TabularPredictor(label='MEDV', problem_type='regression').fit(train_data, auto_stack=True) # Multi-layer stack ensemblingを有効化
leaderboard = predictor.leaderboard(test_data)
leaderboard

スクリーンショット 2021-06-24 9.55.07.png

その他、ハイパーパラメータの探索もでき、画像や文書分類とかもできるそうです。
上記までは今回実装できなかったため、時間があれば試してみようと思います。
下記に公式サイトとgithub のサイトを載せておきます。

##さいごに
最後まで読んで頂き、ありがとうございました。
個人的にはPyCaret の方が使いやすかったですね。
ただ、AutoGluon はテーブルデータ以外も扱えるAutoML ということで時間があればもう少し触ってみようかと思います。

訂正要望がありましたら、ご連絡頂けますと幸いです。

5
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
5
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?