参考文章

ubuntu系统docker20.4版本安装nvidia-container-runtime3.11.0-1版本(离线安装nvidia-docker) - jokerMM - 博客园

https://zhuanlan.zhihu.com/p/15194336245

一、软件地址

Index of /nvidia-docker/libnvidia-container/stable/

从上述地地址——进入对应系统——下载自己所需的版本号

补充地址

https://github.com/NVIDIA/libnvidia-container/tree/gh-pages/stable/deb/amd64

这个地址是nvidia在github的软件地址，因为没有我需要的版本号，因此没有使用，放这以供需要的人使用

二、下载文件

libnvidia-container1_1.13.5-1_amd64.deb   # 基础库包，提供了最基本的功能，其他包都依赖于它
libnvidia-container-tools_1.13.5-1_amd64.deb  # 基础工具包，依赖于 libnvidia-container1
nvidia-container-toolkit-base_1.13.5-1_amd64.deb  # 基础组件包，依赖于前面的包
nvidia-container-toolkit_1.13.5-1_amd64.deb       # 主要的工具包，依赖于以上所有包
libnvidia-container1-dbg_1.13.5-1_amd64.deb       # 调试符号包，只在调试问题时使用
libnvidia-container-dev_1.13.5-1_amd64.deb        # 开发包，只在进行开发时使用

最后两个可以选择不下载、不安装

三、运行命令以安装软件

引用的第一篇文章说顺序不能错，第二篇文章没要求顺序，保险起见，按照第一篇文章顺序安装

sudo dpkg -i nvidia-container-toolkit-base_1.13.5-1_amd64.deb
sudo dpkg -i libnvidia-container1_1.13.5-1_amd64.deb
sudo dpkg -i libnvidia-container-tools_1.13.5-1_amd64.deb
sudo dpkg -i nvidia-container-toolkit_1.13.5-1_amd64.deb

其中在运行某一句会报问题：

正在处理用于 libc-bin (2.31-0ubuntu9.9) 的触发器 ...
/sbin/ldconfig.real: /usr/local/cuda/targets/x86_64-linux/lib/libcudnn_ops_infer.so.8 is not a symbolic link

/sbin/ldconfig.real: /usr/local/cuda/targets/x86_64-linux/lib/libcudnn_adv_infer.so.8 is not a symbolic link

/sbin/ldconfig.real: /usr/local/cuda/targets/x86_64-linux/lib/libcudnn_cnn_infer.so.8 is not a symbolic link

/sbin/ldconfig.real: /usr/local/cuda/targets/x86_64-linux/lib/libcudnn_adv_train.so.8 is not a symbolic link

/sbin/ldconfig.real: /usr/local/cuda/targets/x86_64-linux/lib/libcudnn_cnn_train.so.8 is not a symbolic link

/sbin/ldconfig.real: /usr/local/cuda/targets/x86_64-linux/lib/libcudnn.so.8 is not a symbolic link

/sbin/ldconfig.real: /usr/local/cuda/targets/x86_64-linux/lib/libcudnn_ops_train.so.8 is not a symbolic link

我没管，继续安装

四、查看是否安装成功

nvidia-ctk --version

五、设置docker默认使用nvidia-runtime

sudo nvidia-ctk runtime configure --runtime=docker

这块就是把相关配置写入daemon.json文件，直接在文件中写入也可以

sudo gedit /etc/docker/daemon.json

{
    ****其他配置信息****
    "runtimes": {
        "nvidia": {
            "args": [],
            "path": "nvidia-container-runtime"
        }
    }
}

六、重启docker

sudo systemctl restart docker