背景

为了学习炼丹技术，我搞到了一台带显卡的台式机

• CPU：i5 13490F
• 内存：32G
• 显卡：Quadro RTX 5000

本文记录在Quadro RTX 5000上安装PyTorch的过程。可以和之前的在GeForce 1050上安装PyTorch进行比较。

安装过程

首先，确认显卡型号：

直接去PyTorch官网，查看到当前最新的PyTorch是2.2.0版本，配伍的CUDA有11.8和12.1两个版本。

事实上，当前版本的PyTorch是支持12.2版本的CUDA的。

NVidia Driver

根据当前显卡型号，去官网检索并下载合适的驱动程序。

下载完成之后，根据提示进行安装即可。

Cuda Toolkit

前面说到，当前Pytorch 2.2.0要求:

• Python >= 3.8
• CUDA 11.8或者12.1

这里我选择CUDA 12.2以上进行安装。

去Nvidia官网下载CUDA Toolkit，考虑到众所周知的网络原因，这里的安装类型我选择exe(local)。

下载完成后，即可根据提示进行安装。

安装完成后，使用nvidia-smi.exe命令确认相关信息是否正常。

PyTorch

我本地安装的Python版本是 3.11.1

PS F:\PyTorch-Learning> python --version
Python 3.11.1

为了不污染全局环境，我选择建立一个虚拟环境：

AiLab> python -m venv .venv
AiLab> .\.venv\Scripts\Activate.ps1

注：如果是在Debian环境下，在创建Python虚拟环境时，不会生成Scripts文件夹，而是生成bin文件夹。要激活虚拟环境的话，应该执行下面的命令：

source .venv/bin/activate

这样就可以进入虚拟环境了，然后你可以用pip安装你需要的包。如果你想退出虚拟环境，只要执行：

deactivate

然后，直接根据PyTorch官网提示，从对应的Index里安装torch、torchvision、torchaudio三件套：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

安装完成后，我们可以检查PyTorch是否可以正常使用CUDA：

(.venv) PS C:\Users\itminus\AiLab> python
Python 3.11.6 (tags/v3.11.6:8b6ee5b, Oct  2 2023, 14:57:12) [MSC v.1935 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license" for more information.
>>> import torch
>>> torch.cuda.is_available()
True
>>>

20250207更新：今天在公司内网部署一台新机器时，发现 download.pytorch.org 也访问不来了 :( 临时指定一下proxy:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 --proxy socks5h://user:pass@ip:port --trust download.pytorch.org