の補足、
CUDAとCUDNNのインストールは下記のDockerfileを使って
Dockerfile
FROM nvidia/cuda:12.8.1-cudnn-runtime-ubuntu22.04
RUN cd /root
RUN apt-get -y update
RUN apt-get -y install wget
RUN wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
RUN dpkg -i cuda-keyring_1.1-1_all.deb
RUN apt-get -y update
RUN apt-get -y install cuda-toolkit-12-8
RUN apt-get -y install cudnn
RUN apt-get -y install cudnn-cuda-12
下記のコマンドでbuild->Runしてもインストール可能
sudo docker image build --tag my-cuda:12.8.1 .
sudo docker run -v ./share2host:/root/share2host -it --gpus=all --name my-cuda -p 8888:8888 my-cuda:12.8.1