1.2.3 安装PyTorch 1.10
2021年11月初,PyTorch团队发布了1.10版本,该版本整合了自2021年10月1.9版本发布以来的3400多次代码提交与完善,由426位贡献者完成。
PyTorch 1.10集成了CUDA Graphs API以减少CUDA工作负载的CPU开销,支持FX、torch.special和nn.ModuleParametrization等几个前端API。除了GPU外,JIT Compiler中对自动融合的支持也扩展到CPU,且已支持Android NNAPI。
我们可以到PyTorch的官方网站(https://pytorch.org/)下载软件,有两种版本可以选择,分别为CPU版和GPU版,如果安装系统中有NVIDIA GPU,或者有AMD ROCm,那么推荐安装GPU版本,因为对于大数据量的计算,GPU环境比CPU环境要快很多。
例如,求N×N维的二维矩阵的逆矩阵,当N很小时,在CPU和GPU两种环境下花费的时间差异不大,但是随着N的增加,GPU环境下的耗时变化不大,而CPU环境下却呈现直线上升,如图1-12所示。
图1-12 CPU和GPU两种环境下的效率比较
1.安装CPU版本
虽然在CPU环境下模型的训练非常缓慢,但是为了简化现场部署PyTorch模型,以及降低深度学习的学习门槛,以利于框架本身的推广,因此现在大部分厂家生产的笔记本都可以安装PyTorch深度学习框架。
PyTorch可以安装在Windows、Linux、Mac等系统中,可以使用Conda、Pip等工具进行安装,可以运行在Python、C++、Java等语言环境下,如图1-13所示。
图1-13 下载PyTorch
其中,使用Pip工具的安装命令如下:
pip3 install torch torchvision torchaudio
注意
由于PyTorch软件较大,如果网络环境不是很稳定,可以先到网站上下载对应版本的离线文件。
此外,在安装PyTorch时,很多基于PyTorch的工具集,如处理音频的torchaudio、处理图像视频的torchvision等都有一定的版本限制。
2.安装GPU版本
在安装GPU版本的PyTorch时,需要先到NVIDIA的官方网站查看系统中的显卡是否支持CUDA,再依次安装显卡驱动程序、CUDA10和cuDNN,最后安装PyTorch。
1)安装显卡驱动程序,到NVIDIA的官方网站(https://www.nvidia.com/drivers)下载系统中的显卡所对应的显卡驱动程序并进行安装,如图1-14所示。
图1-14 下载显卡驱动程序
2)安装CUDA,登录网站(https://developer.nvidia.com/cuda-downloads),单击右下角的Legacy Releases按钮下载CUDA,如图1-15所示。
图1-15 CUDA下载页面
选择CUDA Toolkit 10.0版本,如图1-16所示。
图1-16 选择CUDA安装版本
选择Windows 10的安装包,下载并进行安装,如图1-17所示。
图1-17 下载CUDA安装包
3)安装cuDNN,登录网站(https://developer.nvidia.com/rdp/cudnn-download)下载cuDNN for CUDA 10.0 Windows 10版本,并进行解压缩,如图1-18所示。
图1-18 下载cuDNN安装包
接下来,从cuDNN的解压缩目录复制3个文件到CUDA的安装目录,步骤如下:
把<cuDNN解压缩目录>下的文件\cuda\bin\cudnn64_7.dll复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin目录下。
把<cuDNN解压缩目录>下的文件\cuda\include\cudnn,h复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\include目录下。
把<cuDNN解压缩目录>下的文件\cuda\lib\x64\cudnn,lib复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\lib\x64目录下。
4)安装PyTorch GPU版的软件包:
pip install torch==1.9.1+cu100 torchvision==0.10.1+cu102 torchaudio=== 0.9.1 -f https://download.Pytorch.org/whl/torch_stable.html