※この記事はAE2100のCentOSコンテナ(centos7_openvino_2019R31_1.tgz)を対象としています。

以下はUbuntuコンテナ版の記事です。
OKI AI エッジコンピューター「AE2100」でOpenVINOのサンプルプログラムを動かしてみよう Ubuntuコンテナ版 (2)

はじめに

OpenVINOにはSamplesとDemosアプリケーションのソースが付属しています。
このうちDemosは特定のユースケースを解決するために推論エンジンを
どのように使用するのかのアプリケーション例です。
今回はDemosのビルドを行いAE2100上で実行してみたいと思います。

●Inference Engine Demosの一覧
https://docs.openvinotoolkit.org/2019_R3.1/_demos_README.html

環境

AE2100のコンテナバージョンは「centos7_openvino_2019R31_1.tgz」とします。
開発環境でDemosのビルドをおこない、AE2100で実行します。
開発環境の構築は「AE2100 シリーズ SDK 取扱説明書ーDeepLearning 編ー」P.10を参考にしてください。

なお、第１回目の記事に従ってウインドウズＰＣ上にVcXsrvの導入が済んでいることを前提とします。
OKI AI エッジコンピューター「AE2100」でOpenVINOのサンプルプログラムを動かしてみよう(1)

Demosのビルド(開発環境側)

開発環境でOpenVINO付属のdemosのビルドをおこないます
OpenVINOをデフォルトのままインストールした場合、Demosは以下の場所に存在します。
/opt/intel/openvino/inference_engine/demos

ビルド時の注意点としては、build_demos.shをそのまま実行すると開発環境のプロセッサーに最適化され
AE2100搭載のAtomプロセッサーでは動作できない実行ファイルが作成されてしまいます。
そのため build_demos.sh　を書き換える必要があります。
build_demos.sh を編集しcmakeの引数に　”-DENABLE_AVX2=OFF”　を追加します。

/opt/intel/openvino/inference_engine/demos/build_demos.sh


cd $build_dir
cmake -DCMAKE_BUILD_TYPE=Release $DEMOS_PATH -DENABLE_AVX2=OFF
make $NUM_THREADS

OpenVINOの環境変数を設定します。

source /opt/intel/openvino/bin/setupvars.sh

build_demos.shを書き換えたらビルドをおこないます。

# ./build_demos.sh

ビルドをおこなうと実行ファイルが以下のディレクトリに出力されます。
/root/omz_demos_build/intel64/Release　

モデルファイルのダウンロード(開発環境側)

ここではOpenVINO付属のmodel_downloaderを使ってモデルファイルのダウンロードをおこないます。
※下記サイトからブラウザで直接モデルファイルをダウンロードしても構いません。
https://download.01.org/opencv/2019/open_model_zoo/R3/20190905_163000_models_bin/human-pose-estimation-0001/FP16/

model_downloaderがあるディレクトリに移動します。

# cd /opt/intel/openvino/deployment_tools/tools/model_downloader

python の仮想環境をアクティブにします。　
※「AE2100 シリーズ SDK 取扱説明書ーDeepLearning 編ー」P.13でPythonの仮想環境を作成した場合。

# source /opt/intel/openvino/deployment_tools/model_optimizer/venv/bin/activate

model_downloaderの動作に必要なpythonパッケージの導入をおこないます。

(venv)# pip3 install -r requirements.in

OpenVINOの環境変数を設定します。

(venv)# source /opt/intel/openvino/bin/setupvars.sh

model_downloaderで取得可能なモデルファイルの一覧を出力してみます。

(venv)# python3 downloader.py --print_all
action-recognition-0001-decoder
action-recognition-0001-encoder
age-gender-recognition-retail-0013
driver-action-recognition-adas-0002-decoder
driver-action-recognition-adas-0002-encoder
emotions-recognition-retail-0003
face-detection-adas-0001
face-detection-adas-binary-0001
face-detection-retail-0004
face-detection-retail-0005
face-reidentification-retail-0095

今回は”human-pose-estimation-0001”をダウンロードしてみます。

(venv)# python3 downloader.py --name human-pose-estimation-0001  --precisions FP16

モデルファイルは以下の場所に出力されます。
./intel/human-pose-estimation-0001

AE2100へのファイルコピー

今回はDomosの中から”Human Pose Estimation C++ Demo”　をAE2100上で動作させてみます。
Human Pose は人物の骨格推定をおこなう処理です。
※デモの詳細は以下を参照してください。
https://docs.openvinotoolkit.org/2019_R3.1/_demos_human_pose_estimation_demo_README.html

ビルドを行った実行ファイルとモデルをフォルダに移動させます。

# cd
# mkdir human_pose
# cd human_pose
# cp /root/omz_demos_build/intel64/Release/human_pose_estimation_demo ./
# cp /opt/intel/openvino/deployment_tools/tools/model_downloader/intel/human-pose-estimation-0001/FP16/* ./

動画ファイルをダウンロードします。

# wget https://github.com/intel-iot-devkit/sample-videos/raw/master/one-by-one-person-detection.mp4

tarアーカイブを作成します。

# cd ..
# tar cvf human_pose.tar  human_pose

TeraTermでAE2100にログインし、上記のtarファイルをドラッグ＆ドロップでAE2100に転送します。
コンテナにファイルのコピーをおこないます。

root@ae2100:~# docker cp human_pose.tar centos-openvino:/root/

以下のコマンドでコンテナに入ります。
（コンテナが起動していない場合、「AE2100 シリーズ SDK 取扱説明書ーDeepLearning 編ー」P.20を参考に起動させてください。）

root@ae2100:~# docker exec -it centos-openvino /bin/bash

tarを展開します。

# cd
# tar xvf human_pose.tar

依存パッケージのインストール（AE2100側）

※既に実施済みでしたら読み飛ばしてください
デモ実行にffmpegやGTK+が必要なため、依存パッケージの導入をおこなっていないようでしたらインストールをおこないます。
インターネットへの接続が必要です

# cd /opt/intel/openvino/install_dependencies
# yum clean all
# ./install_openvino_dependencies.sh

lib_cpu_extensionはSSE4.x用のものをリネームコピーします。

# cd /opt/intel/openvino/inference_engine/lib/intel64
# cp libcpu_extension_sse4.so libcpu_extension.so

Human Pose Estimationの実行（AE2100側）

OpenVINOの環境変数を設定します。

# source /opt/intel/openvino/bin/setupvars.sh

ウインドウ表示先のＩＰアドレスを設定します。PCのIPアドレスを指定します。

# export DISPLAY=192.168.100.101:0.0

準備が整いましたのでDomosの中から今回は”　Human Pose Estimation” を実行してみたいと思います。
※ 事前に前回の記事に従ってWindows PC側のXlaunchを起動しておいてください。

実行ディレクトリに移動します。

# cd 
# cd human_pose

まずは内蔵GPUで実行してみます。

# ./human_pose_estimation_demo -i one-by-one-person-detection.mp4 -m human-pose-estimation-0001.xml -d GPU

スループットは約7.6FPSです。

次にデバイスをかえてHDDLで実行してみます。

# ./human_pose_estimation_demo -i one-by-one-person-detection.mp4 -m human-pose-estimation-0001.xml -d HDDL

4.2FPSぐらいした。ウインドウ上で"ESC"キーで押すと処理が終了できます。

HDDLの方が遅い結果になったのは、OpenVINO2019R3.1付属の”human_pose_estimation_demo”が
AE2100に搭載しているMyriad X　2チップに適した実装になっていないためです。
パフォーマンスの引き出すための実装方法は、今後機会を設けて紹介したいと思います。

まとめ

今回はDomosのビルド方法とAE2100上での実行をおこないました。
次回はAE2100にWebカメラを接続して物体検出に挑戦してみます。

以下はUbuntuコンテナ版の記事です。

OKI AI エッジコンピューター「AE2100」でOpenVINOのサンプルプログラムを動かしてみよう（2）

はじめに

環境

Demosのビルド(開発環境側)

モデルファイルのダウンロード(開発環境側)

AE2100へのファイルコピー

依存パッケージのインストール（AE2100側）

Human Pose Estimationの実行（AE2100側）

まとめ