手元の古い GPU マシンに PyTorch 環境を構築しようとして、昔やったように構築したら動きませんでした (PyTorch と GPU の不整合で)。エラーメッセージから原因はわかるし解決も難しくないですが、そもそも最初から失敗しない手順を記します。
先に注意点のまとめ
手元の GPU マシンに直接 PyTorch 環境を構築するとき、(昔に環境構築が上手くいった経験がある人ほど) 以下の点に注意が要ると思います。
- 近年の PyTorch には CUDA ランタイムが同梱されているため [1]、別途 CUDA をインストールしておく必要はありません (PyTorch をカスタムビルドする場合を除き)。ドライバさえインストールされていればよいです。
- ドライバのコマンド
nvidia-smiで CUDA Version が表示されますが、これはドライバがその CUDA Version の命令にまで対応できるだけであり、手元の GPU も対応できるとは限りません (特に手元の GPU が古い場合は)。どの CUDA バージョン向けの PyTorch をインストールすればよいかは、torch/cuda/__init__.py:317-322 から手元の GPU の Compute Capability が含まれる CUDA バージョン向けの PyTorch を選ぶ必要があります (このような情報はドキュメントにあるべきだと思いますが私が見つけられていません)。 - よく
torch.cuda.is_available()によって PyTorch が CUDA を利用できるか確認しますが、これは「この PyTorch が CUDA サポート付きでコンパイルされていること」「PyTorch から GPU が 1 つ以上みえること」を確認するだけで、「PyTorch 内のビルド成果物と手元の GPU が整合的であること」ことまでは確認しません。torch.cuda.get_device_name(0)まで実行すると整合的でないときに警告メッセージが出ます (手元では)。本当に利用できるか確認するには、実際に GPU を利用した学習まで回してみるのが安全です。
間違った PyTorch 環境構築手順
手元のマシンは Windows 11 で GeForce GTX 1060 が搭載されています。このマシンに直接 PyTorch 環境を構築するとき、以下の手順を踏むと、失敗します。
- まずはドライバをインストールするため、ドライバーの手動検索 で Windows 11 + GeForce GTX 1060 の場合のドライバを検索したところ、NVIDIA Studio ドライバー バージョン 581.57 がヒットしたのでこれをインストールしました。ドライバのインストール後にコマンド
nvidia-smiを打つと、Driver Version: 581.57 CUDA Version: 13.0と表示されました。 - そのように表示されたので、CUDA ダウンロードサイト から Windows 11 用の CUDA 13.0 をインストールしました。
-
PyTorch も CUDA 13.0 対応版をインストールしました。
torch.cuda.is_available()を実行した結果は無事にTrueとなりました。
しかし、いざ PyTorch でテンソルを GPU に送ると「あなたの GPU の Capability は 6.1 だが、この PyTorch がサポートする範囲 7.5-12.0 なので CUDA 12.6 向けの PyTorch を入れ直しなさい」という UserWarning が出力されました。そうはいっても実は学習できないか試すと、 RuntimeError が出てやはりだめでした。
Found GPU0 NVIDIA GeForce GTX 1060 which is of cuda capability 6.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is
(7.5) - (12.0)
Please install PyTorch with a following CUDA
configurations: 12.6 following instructions at
https://pytorch.org/get-started/locally/
RuntimeError: CUDA error: CUBLAS_STATUS_ARCH_MISMATCH when calling `cublasCreate(handle)`
間違っていた点
先の手順には全ての手順に間違っている (望ましくない) 点があります。
- 手順 1. で促されるままにバージョン 581.57 のドライバをインストールしましたが、CUDA とドライバのバージョン対応表をみると、CUDA 12.X 系に対応するドライバのバージョンは「525 以上 580 未満」のようです。といっても、後方互換性はあるようなので、バージョン 580 以上のドライバを既に入れたなら入れ直す必要まではないと思います。
- 手順 2. で CUDA をインストールしていますが、近年の PyTorch には GPU を動かすための CUDA ランタイムが同梱されているため [1]、PyTorch を手元でカスタムビルドしたいのでない限りは CUDA を別途インストールする必要はありません。
- 手順 3. でドライバのコマンド
nvidia-smiで表示されたCUDA Version: 13.0に対応するPyTorch をインストールしていますが、これは「このドライバはこのバージョンの CUDA の指示まで GPU に伝えられます」という意味であり、「この GPU はこのバージョンの CUDA から指示できます」という意味ではありません。ではどの CUDA バージョンに対応する PyTorch を選ぶべきかというと、- NVIDIA の CUDA GPU Compute Capability のページ によると、GeForce GTX 1060 の Compute Capability は 6.1 です。
- ここで Wikipedia の CUDA の記事の GPUs supported によると、Compute Capability 6.x 系 (Pascal という世代名です) に指示できる CUDA バージョンは 8.0-12.9 です。しかし、これはあくまで「CUDA 12.9 の機能までは Capability 6.x 系 GPU 向けにビルドできる」という意味であって、「PyTorch for CUDA 12.x が Capability 6.x 系 GPU 向けビルド成果物とランタイムを同梱している」という意味ではありません。
-
この記事を書いている時点で最新版の PyTorch の torch/cuda/__init__.py:317-322 をみると、6.x 系ビルド成果物とランタイムを同梱するのは PyTorch for CUDA 12.6 までのようです (
torch._C._cuda_getArchFlags()からも確認できます)。
# TORCH_CUDA_ARCH_LIST for PyTorch releases
PYTORCH_RELEASES_CODE_CC: dict[str, set[int]] = {
"12.6": {50, 60, 70, 80, 86, 90},
"12.8": {70, 80, 86, 90, 100, 120},
"13.0": {75, 80, 86, 90, 100, 110, 120},
}
- また、手順 3. で
torch.cuda.is_available()によって PyTorch が CUDA を利用できるかを確認していますが、これは「この PyTorch が CUDA サポート付きでコンパイルされていること」「PyTorch から GPU が 1 つ以上みえること」を確認するだけで、「PyTorch 内のビルド成果物と手元の GPU が整合的であること」ことまでは確認しません。torch.cuda.get_device_name(0)まで実行すると整合的でないときに警告メッセージが出ます (手元では)。
torch.cuda.is_available() # True
torch.cuda.device_count() # 1
torch.cuda.current_device() # 0
torch.cuda.get_device_name(0) # ここで初めて警告メッセージ
正しい PyTorch 環境構築手順
反省を踏まえると、手元の GPU マシンに直接 PyTorch 環境を構築するには以下の手順を踏むとよいのではないかと思います。
- まずは手元の GPU の Compute Capability (新しい GPU / 古い GPU) を確認します。
- 手元の GeForce GTX 1060 の Compute Capability は 6.1 です。
-
torch/cuda/__init__.py:317-322 のうち手元の GPU の Compute Capability が含まれる行を確認し、「CUDA X.X 向けの PyTorch を入れるべきか」を決定します。
- 例えば、Compute Capability が 6.x なら、この中で
60が含まれるのは12.6だけなので、CUDA 12.6 向け PyTorch しか選べません (より古いリビジョンならより古い CUDA 向けもあるはずだが、PyTorch のバージョンも古くなることに留意)。
- 例えば、Compute Capability が 6.x なら、この中で
- ここまで確認の上でドライバをインストールします。ドライバーの手動検索 で Windows 11 + GeForce GTX 1060 の場合のドライバを検索したところ、NVIDIA Studio ドライバー バージョン 581.57 がヒットします。ただし、CUDA とドライバのバージョン対応表をみると、CUDA 12.X 系に対応するドライバのバージョンは「525 以上 580 未満」なので、気になる場合は 580 未満のドライバを探してインストールします。ただ後方互換性はあるので、今回は気にせず最新版をインストールします (というか既に入れてしまった)。
- 次に、PyTorch for CUDA 12.6 をインストールします。
torch.cuda.is_available()を実行した結果はTrueとなり、torch.cuda.get_device_name(0)を実行した結果は何の警告もなく'NVIDIA GeForce GTX 1060'となりました。
これで GPU を用いた学習をしたところ、問題なく動くことが確認できました。
備考
私たちの指示が GPU に伝わるまでのメモです。これを踏まえると正しい環境構築手順が踏めるかもしれないし踏めないかもしれません。
- 私たちは Python 言語で PyTorch に計算指示を出します。
- PyTorch は指示にしたがって、同梱のビルド成果物 (fatbin) のうち実行する GPU 向けの機械語 (cubin) のセクションを呼び出します。
- ビルド成果物は同梱の CUDA ランタイムに指示を出します。
- CUDA ランタイムは指示と指示を達成するメモリ利用計画も立ててドライバに伝えます。
- ドライバは指示にしたがって GPU を動かします。