概要

今回はABEJA Platformを利用し、ローカル学習 (train-local) を紹介します。

なぜローカル学習なの？

ABEJA Platformは、機械学習におけるデータ準備・アノテーション・開発・学習・モデル変換・デプロイ、これら全体のパイプラインをサポートしているサービスです。もちろん、その機能の一部を使うことも可能です。例えば、開発のみをABEJA Platform のJupyter Notebookで行うことや、学習・デプロイのみをABEJA Platform上で行うことも可能です。今回は、すでに機械学習環境(GPUマシンなど)を保有しているユーザが、既存のオンプレミス環境を、なるべく活用し、ABEJA Platformと連携利用する方法を紹介します。

実施すること

サンプルコード (KerasでVGG16を利用した画像分類判別) を利用し、モデル作成をローカルで実施していきましょう。

早速やってみる

前準備

ローカル学習(train-local)では、ABEJA Platform CLIを利用します。

ABEJA Platform CLIの導入については、こちらをご参考ください。

※注意

ABEJA Platform CLIはPython3.5以降が対応しています。
Windowsには一部対応しているのですが、動作保証対象外となっていますので、ご注意ください！
Dockerが必要になりますので、事前にDockerを起動しておきます。
もし、Amazon Linux2などでDockerが起動しないようなら、以下のコマンドを試してみましょう。その後、SSHなどで繋げている場合は、一度、ログアウト/ログインを実施してください。

docker Groupに[username]のユーザを参加させます。
$ sudo gpasswd -a [username] docker

ローカル学習(train-local)の実施

train-localコマンド

ABEJA Platformでは、以下のコマンド(CLI)を利用し、ローカル学習を実行できます。

$ abeja training train-local

利用方法は公式ドキュメントにも記載されています。

いくつか、利用方法をご紹介します。 (以下のようなmain.pyを利用の場合)

main.pyの一部

... (省略)
def handler(context):
    dataset_alias = context.datasets
    dataset_id = dataset_alias['dataset_name']
    ... (省略)

■サンプル①

-h ：呼び出す関数のパスを指定。サンプルはmain.pyのhandlerを呼び出し。
-i ：イメージの指定。「abeja/all-cpu:18.10」or 「abeja/all-gpu:18.10」を選択指定
--organization_id ：ABEJA Platform組織ID。組織IDの確認方法はこちら
--datasets ：使用するデータセットを次のフォーマットにて指定。 {dataset_name}:{dataset_id}
( 例えば、ABEJA Platform上にあるデータセット demo-dataset (データセット名：demo-dataset、データセットID：1000000000) を上記のmain.pyを使って呼び出す場合、データセット名dataset_name、データセットID 1000000000を指定

$ abeja training train-local \
    -h main:handler \
    -i abeja/all-cpu:18.10 \
    --organization_id 1234567890123 \
    --datasets dataset_1:1000000000

■サンプル②

-h ：呼び出す関数のパスを指定。サンプルはmain.pyのhandlerを呼び出し
-i ：イメージの指定。「abeja/all-cpu:18.10」or 「abeja/all-gpu:18.10」を選択指定
--organization_id：ABEJA Platform組織ID。組織IDの確認方法はこちら
--environment：環境変数を指定。NUM_EPOCHS:10など
--no_cache：再ビルドを行い、イメージを作り直し

$ abeja training train-local \
    -h main:handler \
    -i abeja/all-cpu:18.10 \
    --organization_id XXXXXXXXXXXXXX \ # 組織IDを入力してください
    --environment NUM_EPOCHS:10 \
    --no_cache

他に以下のようなオプションも選択いただけます。

--runtime：docker run コマンドの --runtime オプションに相当。例えば、「nvidia-docker」など。
--build-only ：imageのビルドだけを実施。学習は行わない場合に指定
--quiet：info ログの出力を抑制

実行

今回はタイトルの通りKerasでVGG16を利用し、画像分類判定を実施します。
サンプルコードはこちらです。

ローカルで学習を実施したい端末にコードを配置します。
今回はtrain_vgg.pyのhandlerを呼び出し、ローカルで学習させます。
すでにPlatform上で作成したデータセットも利用できます。

コードを配置したフォルダ上で、以下のコマンドを実行します。

$ abeja training train-local \
   -h train_vgg:handler \
   -i abeja/all-cpu:18.10 \  
   --organization_id XXXXXXXXXXXXXX \ # 組織IDを入力してください
   --datasets train:XXXXXXXXXXXXXX    # データセットIDを入力してください

すると、以下のような実行状況(infoログ)が出力されてきます。 ( --quitで出力を抑制することも可能です。)

[username@XXXXXX train-folder]$ abeja training train-local -h train_vgg:handler -i abeja/all-cpu:18.10 --organization_id XXXXXXXXXXXXXX --datasets train:XXXXXXXXXXXXXX
[info] preparing image : abeja/all-cpu:18.10
[info] building image
[info] start training job
INFO: start installing packages from requirements.txt
INFO: packages are installed from requirements.txt
INFO: Loading user model handler with train_vg:handler...
Using TensorFlow backend.
load dataset from api
x_train shape: (2367, 128, 128, 3)
2367 train samples
1015 test samples
Downloading data from https://github.com/fchollet/deep-learning-models/releases/download/v0.1/vgg16_weights_tf_dim_ordering_tf_kernels_notop.h5

    8192/58889256 [..............................] - ETA: 18:33
   40960/58889256 [..............................] - ETA: 7:25
  106496/58889256 [..............................] - ETA: 4:16
  245760/58889256 [..............................] - ETA: 2:28
  524288/58889256 [..............................] - ETA: 1:26
  974848/58889256 [..............................] - ETA: 55s
 1974272/58889256 [>.............................] - ETA: 31s
... (省略)

Dockerイメージが準備され、必要なパッケージのインストール、学習に必要なデータセット、Weights File(重みデータ)のダウンロードが開始されているのがわかります。

その後、以下のinfoログが出力され、学習が始まります。

... (省略)
Train on 2367 samples, validate on 1015 samples
Epoch 1/5

  32/2367 [..............................] - ETA: 2:00 - loss: 0.8370 - acc: 0.5312
  64/2367 [..............................] - ETA: 1:54 - loss: 0.8450 - acc: 0.5000
  96/2367 [>.............................] - ETA: 1:51 - loss: 0.8465 - acc: 0.5104
 128/2367 [>.............................] - ETA: 1:49 - loss: 0.8477 - acc: 0.5078
 160/2367 [=>............................] - ETA: 1:47 - loss: 0.8147 - acc: 0.5312
 192/2367 [=>............................] - ETA: 1:45 - loss: 0.8184 - acc: 0.5208
 224/2367 [=>............................] - ETA: 1:43 - loss: 0.8072 - acc: 0.5357
 256/2367 [==>...........................] - ETA: 1:42 - loss: 0.8042 - acc: 0.5391
... (省略)

今回はEpochを[5]に指定していますが、学習にあわせてこちらは調整してください。
しばらく待つと、以下のような結果が表示されます。

... (省略)
2112/2367 [=========================>....] - ETA: 12s - loss: 0.4488 - acc: 0.7784
2144/2367 [==========================>...] - ETA: 10s - loss: 0.4485 - acc: 0.7775
2176/2367 [==========================>...] - ETA: 9s - loss: 0.4500 - acc: 0.7753
2208/2367 [==========================>...] - ETA: 7s - loss: 0.4501 - acc: 0.7754
2240/2367 [===========================>..] - ETA: 6s - loss: 0.4504 - acc: 0.7750
2272/2367 [===========================>..] - ETA: 4s - loss: 0.4508 - acc: 0.7742
2304/2367 [============================>.] - ETA: 3s - loss: 0.4497 - acc: 0.7747
2336/2367 [============================>.] - ETA: 1s - loss: 0.4484 - acc: 0.7740
2367/2367 [==============================] - 156s 66ms/step - loss: 0.4495 - acc: 0.7727 - val_loss: 0.4417 - val_acc: 0.7980
Test loss: 0.44168092913815543
Test accuracy: 0.7980295571200366
INFO: resource usage. execution duration: 829 seconds, memory: 5 MB

Validation datasets Test結果がlossとaccuracyと表示され精度を確認することが可能です。

その後、コマンド実行フォルダに**「model.h5」**というモデルファイルが生成されています。
このモデルファイルを利用し、ABEJA Platform上でデプロイを実施することで、HTTPサービスや、トリガーに利用することも可能です。

最後に

今回はローカル学習(train-local)を利用し、ローカル環境で学習・モデルファイルを作成するまでを実施してみました。
オンプレミス環境で機械学習を行っているデータサイエンティストや ML エンジニアに向けて、オンプレミス環境を活かしつつ、必要に応じて ABEJA Platformを利用する方法となります。また、今後、ABEJA Platformでは、train-localをより大幅に使いやすくアップデートが予定されています。是非、ご期待ください。

ABEJA Platformは、ユーザとコミュニティを形成しながら、速いスピードで開発を進めていきます。
以下、フォーラムもありますので、是非、ご活用ください！

ABEJA Platform Forums