安装CUDA和cuDNN是为了利用NVIDIA GPU的并行计算能力来加速深度学习任务。这两个软件包提供了开发深度学习模型所需的基本工具和库：
CUDA：CUDA是NVIDIA提供的通用并行计算平台和编程模型。它允许开发者利用GPU的大量计算核心来执行并行计算任务。对于深度学习，CUDA提供了编程接口和库，使得开发者可以直接在GPU上执行神经网络的训练和推理操作，从而加速模型的运算速度。cuDNN：cuDNN是CUDA深度神经网络库，是由NVIDIA开发的专门针对深度学习任务的加速库。它提供了高效的GPU加速实现，包括卷积神经网络（CNN）、循环神经网络（RNN）等常见深度学习模型的操作。cuDNN通过优化神经网络的计算过程，进一步提高了深度学习模型的训练和推理速度。因此，安装CUDA和cuDNN是为了在GPU上进行深度学习任务时获得更高的性能和更快的运算速度。
应用环境OS:Ubuntu18.04
CUDA:12.1
显卡：GT1080TI
提示：有些内容可前往相应软件的官网获取。
删除默认的显卡驱动安装cuda之前需要删除已经安装的显卡驱动并禁用默认
sudo apt-get purge nvidia
在terminal中执行：
vim /etc/modprobe.d/blacklist-nouveau.conf
提示：如果没有vim，可通过sudo apt-get install vim安装，如果安装时出现错误，可能要更新镜像源。
在打开的文件中，添加以下内容：
blacklist nouveauoptions nouveau modeset=0
注：Nouveau 是一个开源的 NVIDIA 显卡驱动程序，它由 Linux 社区开发和维护。这个驱动程序的目标是提供对 NVIDIA 显卡的开源支持，以便在 Linux 系统上使用这些显卡时有一个开源的替代方案。
在terminal中执行一下命令以更新配置：
update-initramfs -u
注： update-initramfs -u 是一个 Linux 命令，用于更新初始化内存文件系统（initramfs）的工具。 在 Linux 系统中，initramfs 是一个临时的文件系统，用于在系统引导时加载必要的驱动程序和文件系统模块，以便能够挂载真正的根文件系统并启动系统。它包含了引导系统所需的所有必要的文件和程序。
之后重启系统。
安装cuda及cudnn！
！
！
不用安装显卡驱动，安装CUDA时会自动安装的。
直接去Nvidia官网选择对应的系统下载cuda，有run和deb几种格式，我这里下载了run格式的安装包，但由于没有了显卡驱动，后续出现License提示时没有办法继续，因此选择了deb格式的在线包进行安装。
提示：如果安装cuda时提示还有nvidia相关的包没有删除，可以尝试通过apt autoremove删除，可能有点危险哦。
deb格式文件的安装命令：
sudo dpkg -i xx.deb
安装完成之后，可继续下载cudnn或重启系统后再继续。
此时包括显卡驱动及CUDA应该都已经安装好了。可通过以下命令查看显卡的资源占用：
watch -n 1 -d nvidia-smi
可以看到CUDA版本，GPU使用情况。
注：这里出现的CUDA版本和我下载的不一致，可能在线安装默认安装的是所支持的最新版本。
此时可根据CUDA版本下载cudnn，还是选择deb包直接安装就好，过程基本没有什么错误的。
到目前为止显卡驱动相关的环境已基本配置完毕，接下来就是开发环境的配置。
Conda的安装Ubuntu18.04目前默认安装的python3.6，而pytorch最新版则要求python3.8及之后的版本，因此不能使用系统默认的python，而通过conda则可以很方便的安装新版本。
Conda 是一个开源的包管理和环境管理系统，用于安装和管理软件包及其依赖项。它是 Anaconda 发行版的一部分，Anaconda 是一个用于科学计算的 Python 发行版，提供了许多常用的科学计算包和工具。
Conda 可以用于创建、导出、安装和更新虚拟环境，这些环境可以让你在同一台机器上管理不同版本的软件包和它们的依赖关系，以防止包之间的冲突。这使得在不同项目中使用不同的软件包版本变得更加简单和可靠。
除了 Python 包，Conda 还支持安装其他语言的包，如 R、Julia 等。它也可以用于管理系统依赖项和安装非 Python 软件。
有几种方式可以使用conda,这里选择了miniconda进行安装。
创建虚拟环境，环境名称为yolov8：
conda create -n yolov8
虚拟环境的激活及取消：
conda activate yolov8
然后terminal的最右侧就会出现yolov8这个环境，如下图所示
(yolov8) root@ggl:~#
那此时通过conda命令安装的软件包都会被安装到yolov8这个环境中，
Visual Studio Code中使用Conda在vscode中，选择Interpreter为yolov8,然后创建一个test.py文件：
print('hello world')
之前点击右上角的运行，应该就会执行这个python脚本，但是使用conda的环境时，没有任何反应。目前似乎必须要在interactive模式下使用，在右上角运行图标右侧下拉，选择Run current file in interactive window,此时才会执行对应的python文件。
安装pytorch建议直接去pytroch官网根据自己的环境复制安装命令：
CUDA12.1安装命令如下：
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
验证是否安装成功：、
import torchx = torch.rand(5, 3)print(x)
在vscode中执行以上python脚本，如果有正确输出即可。
