cuda安装初始化

主要分为3步，安装nvidia驱动，安装cuda， 安装cuDNN

驱动安装

获取自己显卡的型号

~ » lspci | grep -i nvidia                                                                                                                                                                                              1 ↵ timo@mirages-itx
01:00.0 VGA compatible controller: NVIDIA Corporation TU116 [GeForce GTX 1660 SUPER] (rev a1)
01:00.1 Audio device: NVIDIA Corporation TU116 High Definition Audio Controller (rev a1)
01:00.2 USB controller: NVIDIA Corporation TU116 USB 3.1 Host Controller (rev a1)
01:00.3 Serial bus controller: NVIDIA Corporation TU116 USB Type-C UCSI Controller (rev a1)

去到 https://www.nvidia.cn/drivers/lookup/ 找到自己的显卡版本和驱动

点击下载后就执行安装就可以了, 执行初始化的时候会比较慢，等一下就行

sudo bash NVIDIA-Linux-x86_64-550.120.run

cuda安装

以前nvidia的显卡和cuda版本是有绑定的，但是现在绑定的也步算深。执行下面命令我们可以看到我们的显卡驱动支持的cuda最高版本是12.4

nvdia-smi

我们可以访问 https://developer.nvidia.com/cuda-toolkit-archive 因为最高是12.4, 所以我选择的是12.3.2， 这里我们可以看到，cuda是支持rocky的，而且还8,9都支持，这算是选择rocky的一个理由了，不过我是xubuntu,所以还是选择ubuntu系列，没有24.04, 那就用22.04

安装也很简单

wget https://developer.download.nvidia.com/compute/cuda/12.3.2/local_installers/cuda_12.3.2_545.23.08_linux.run
sudo sh cuda_12.3.2_545.23.08_linux.run

在安装的时候因为我们已经安装了最新的显卡驱动，所以cuda里的显卡驱动就不要选择了，其他保持默认就可以。

安装完会提示你要修改一下自己shell的配置文件，我的是zsh,所以就编辑~/.zshrc 并添加如下2行

export PATH=$PATH:/usr/local/cuda-12.3/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.3/lib64

使用nvcc -V 来查看是否安装成功

安装cuDNN

打开 https://developer.nvidia.com/rdp/cudnn-download

根据自己的操作系统选择好

下面就提示你安装脚本了

wget https://developer.download.nvidia.com/compute/cudnn/9.5.0/local_installers/cudnn-local-repo-ubuntu2404-9.5.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2404-9.5.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2404-9.5.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn

后面我们就可以用PyTorch这些来快速自己的的ai代码了

https://www.bilibili.com/video/BV1gV411o7AD/

跟着Yann LeCun慢慢学习就行了，这哥们也经常在twitter上指点大辽总统和各种论战。