AWS Instance
利用するAWSのインスタンスはg5.xlargeを利用する
-
G5 インスタンス
G5インスタンスはnvidiaの A10G(24GBPU) GPUを具備したインスタンスを利用することにする。 -
利用インスタンス
利用インスタンス名 GPU vCPU MEM Disk[GB] g5.xlarge A10G (24GB) x 1 4 16 512 -
local 環境
local 環境のOSは以下とする- Ubuntu 20.04.6 LTS
localhostの環境整備
ローカルホストの環境を整備していく。
事前にユーザの作成、ユーザにsudoの付与のみ実施しておく必要がある。
-
初期必要なものをインストール
# ホスト名を変更しておく（オペミス防止） $ sudo hostnamectl set-hostname --static A10-test # パッケージの更新 $ sudo apt update $ sudo apt dist-upgrade $ sudo apt autoremove # emacs のインストール(重要) $ sudo apt-get install emacs -y # その他のOSS $ sudo apt-get install -y --no-install-recommends \ gcc \ build-essential \ patch \ file \ git \ curl \ swig \ nkf \ libmecab-dev \ locales \ wget \ vim \ emacs \ unzip \ mlocate \ time $ sudo apt-get install --reinstall -y libnss3 $ sudo apt-get install -y language-pack-ja-base language-pack-ja $ sudo locale-gen ja_JP.UTF-8 $ export echo "LANG=ja_JP.UTF-8" >> ~/.bashrc $ export echo "LC_ALL=ja_JP.UTF-8" >> ~/.bashrc $ export echo "PYTHONIOENCODING=utf-8" >> ~/.bashrc $ sudo apt-get install -y python3 $ sudo apt-get install -y python3-pip $ sudo reboot -
dockerのインストール
$ sudo apt-get update $ sudo apt-get install -y apt-transport-https software-properties-common ca-certificates curl $ wget https://download.docker.com/linux/ubuntu/gpg $ sudo apt-key add gpg $ echo "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee -a /etc/apt/sources.list.d/docker.list $ sudo apt-get update $ sudo apt-cache policy docker-ce $ sudo apt-get -y install docker-ce $ sudo systemctl start docker.service $ sudo systemctl enable docker.service -
nvidia driverのインストール
driverのインストールはnvidiaのwebサイトで選択してドライバをダウンロードする。
URL: https://www.nvidia.co.jp/Download/index.aspx?lang=jp
選択肢は以下とする- 背品タイプ: DataCenter / Tesla
- 製品シリーズ: A-Series
- 製品ファミリー: NVIDIA A10
- オペレーティングシステム: Linux 64-bit Ubuntu 20.04
- CUDA Toolkit: 12.2 ※一旦最新にしておく
- 言語: Japanise
上記で検索して進めていくとドライバがダウンロードできる。ドライバの名称は時期によって違うと思うが今回ダウンロードしたものは
-
nvidia-driver-local-repo-ubuntu2004-535.129.03_1.0-1_amd64.deb
$ sudo dpkg -i nvidia-driver-local-repo-ubuntu2004-535.129.03_1.0-1_amd64.deb (Reading database ... 147476 files and directories currently installed.) Preparing to unpack nvidia-driver-local-repo-ubuntu2004-535.129.03_1.0-1_amd64.deb ... Unpacking nvidia-driver-local-repo-ubuntu2004-535.129.03 (1.0-1) over (1.0-1) ... Setting up nvidia-driver-local-repo-ubuntu2004-535.129.03 (1.0-1) ... The public nvidia-driver-local-repo-ubuntu2004-535.129.03 GPG key does not appear to be installed. To install the key, run this command: sudo cp /var/nvidia-driver-local-repo-ubuntu2004-535.129.03/nvidia-driver-local-DD4780A0-keyring.gpg /usr/share/keyrings/ # ※上記のようにコマンドを実行 $ sudo cp /var/nvidia-driver-local-repo-ubuntu2004-535.129.03/nvidia-driver-local-DD4780A0-keyring.gpg /usr/share/keyrings/ $ sudo apt-get update $ sudo apt-get install cuda-drivers $ sudo reboot# 再起動後に`nvidia-smi`が使えたらOK nvidia-smi -l 1 Mon Dec 18 14:23:35 2023 +---------------------------------------------------------------------------------------+ | NVIDIA-SMI 535.129.03 Driver Version: 535.129.03 CUDA Version: 12.2 | |-----------------------------------------+----------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |=========================================+======================+======================| | 0 NVIDIA A10G On | 00000000:00:1E.0 Off | 0 | | 0% 25C P8 10W / 300W | 4MiB / 23028MiB | 0% Default | | | | N/A | +-----------------------------------------+----------------------+----------------------+ +---------------------------------------------------------------------------------------+ | Processes: | | GPU GI CI PID Type Process name GPU Memory | | ID ID Usage | |=======================================================================================| | No running processes found | +---------------------------------------------------------------------------------------+ -
NVIDIA Container Toolkit
dockerでgpuをつかめるようにする$ distribution=$(. /etc/os-release;echo $ID$VERSION_ID) $ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - $ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list $ sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit $ sudo systemctl restart docker -
Docker Compse
# https://docs.docker.com/compose/install/ $ sudo curl -L "https://github.com/docker/compose/releases/download/1.28.6/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose $ sudo chmod +x /usr/local/bin/docker-compose $ sudo /usr/local/bin/docker-compose --version docker-compose version 1.28.6, build 5db8d86f -
Docker-composeでgpuを利用したい場合の設定
- nvidia-container-runtimeのインストール
$ sudo apt install nvidia-container-runtime -
/etc/docker/daemon.json の修正
{ "default-runtime": "nvidia", "runtimes": { "nvidia": { "path": "nvidia-container-runtime", "runtimeArgs": [] } } } -
docker-compose.yamlで以下のように記述
環境変数で以下を追加。またtipsとしてNVIDIA_DISABLE_REQUIRE=trueを指定するとマイナーバージョンで動作しない場合でも動作するようになる。environment: - NVIDIA_VISIBLE_DEVICES=all - NVIDIA_DRIVER_CAPABILITIES=all - NVIDIA_DISABLE_REQUIRE=true