AzureのNシリーズでChainer、Tensorflow、CNTK、DIGITSのGPU環境を作る

AzureのNCインスタンスでChainer、Tensorflow、CNTK、DIGITSのGPU環境を作る

AzureのNCインスタンス上にChainer、Tensorflow、CNTK、DIGITSの環境を作った時の手順をまとめます。

VM作成

Azureのポータルから行いました。注意点は以下の通りです。

• LinuxはUbuntu16.04のみサポートされている。(参考URL)
  • 他のバージョンでも起動はできるようですが、肝心のGPUを認識しませんでした。
• NCシリーズが使えるリージョンは限られている。
  • 米国中南部、米国東部で使えますが、日本リージョンではまだ使えないようです。
• OSディスクはHDDを選択しなくてはいけない。
• リージョンのリソース状況によっては作成できないことがある。
  • 時間を置けば作成できるようになります。

NVIDIA Dockerのインストール

依存関係が面倒なことになりそうだったので、dockerを使って環境を分けることにしました。NVIDIAが提供しているNVIDIA DockerはCUDAやcuDNNが既に入っているので、こちらを使うことにします。

1.GPUドライバインストール

sudo apt-get update
sudo apt install -y gcc make
wget -O /tmp/NVIDIA-Linux-x86_64-375.20.run http://us.download.nvidia.com/XFree86/Linux-x86_64/375.20/NVIDIA-Linux-x86_64-375.20.run
chmod +x /tmp/NVIDIA-Linux-x86_64-375.20.run
sudo sh /tmp/NVIDIA-Linux-x86_64-375.20.run

2.Dockerインストール

apt-get update
apt-get install apt-transport-https ca-certificates
apt-key adv --keyserver hkp://p80.pool.sks-keyservers.net:80 --recv-keys 58118E89F3A912897C070ADBF76221572C52609D
echo "deb https://apt.dockerproject.org/repo ubuntu-xenial main" >> /etc/apt/sources.list.d/docker.list
apt-get update
apt-get install linux-image-extra-$(uname -r) linux-image-extra-virtual
apt-get install docker-engine
docker run hello-world

3.NVIDIA Dockerインストール

wget -P /tmp https://github.com/NVIDIA/nvidia-docker/releases/download/v1.0.0-rc.3/nvidia-docker_1.0.0.rc.3-1_amd64.deb
dpkg -i /tmp/nvidia-docker*.deb && rm /tmp/nvidia-docker*.deb
nvidia-docker run --rm nvidia/cuda nvidia-smi

最後のnvidia-smiでGPUの状態が出力されていれば完了です。

各フレームワークのインストール

ここから各フレームワークのDockerコンテナを作っていきます。GPUも使えるように作っています。

1.DIGITS

sudo nvidia-docker run --name digits -d -p 8080:34448 nvidia/digits

これでDockerホストの8080ポートでDIGITSが起動します。

2.Chainer

sudo nvidia-docker run -it --name chainer nvidia/cuda:cudnn /bin/bash

でコンテナを起動し、

sudo apt-get update
sudo apt-get upgrade -y
sudo apt-get wget git -y

のように必要なものを適当に準備し、データサイエンティストを目指す人のpython環境構築 2016のLinuxの場合を見ながらanacondaの設定をしました。最後に

pip install chainer

でchainerがインストールできました。

3.Tensorflow

Chainerと同様にしてコンテナを作り、anacondaの設定までした後、

export TF_BINARY_URL=https://storage.googleapis.com/tensorflow/linux/gpu/tensorflow_gpu-0.12.0rc1-cp35-cp35m-linux_x86_64.whl
pip install --ignore-installed --upgrade $TF_BINARY_URL

でtensorflowがインストールできました。

4.CNTK

Microsoftがdockerイメージを提供していたので、それを利用しました。
CNTK Docker Containers
こちらの手順通りに実行すればCNTKがインストールできました。
（ビルドに時間がかかるのと、途中赤い文字がたくさん見えてどきどきします。）

まとめ

以上で、Chainer、Tensorflow、CNTK、DIGITSでGPUが使える環境を作ることができました。NVIDIA Docker様々です。

参考ページ

Azure NシリーズでNVIDIA DIGITSをサクッと動かす
Azure で NVIDIA GPU を使うには
データサイエンティストを目指す人のpython環境構築 2016
nvidia-dockerとは？
TensorFlow Get Started - Anaconda installation
Pythonの環境構築からTensorFlowインストール
CNTK Docker Containers