首页>>人工智能->一文掌握Windows平台GPU深度学习开发环境部署

一文掌握Windows平台GPU深度学习开发环境部署

时间:2023-11-30 本站 点击:1

这是机器未来的第2篇文章,由机器未来原创

写在前面:

• 博客简介:专注AIoT领域,追逐未来时代的脉搏,记录路途中的技术成长!

• 专栏简介:记录博主从0到1掌握物体检测工作流的过程,具备自定义物体检测器的能力

• 面向人群:具备深度学习理论基础的学生或初级开发者

• 专栏计划:接下来会逐步发布跨入人工智能的系列博文,敬请期待

• Python零基础快速入门系列

• 快速入门Python数据科学系列

• 人工智能开发环境搭建系列

• 机器学习系列

• 物体检测快速入门系列

• 自动驾驶物体检测系列

• ......

@[toc]

1. 概述

windows GPU深度学习开发环境的安装包含显卡驱动、cuda、cuDNN深度学习加速包、anaconda、tensorflow的安装以及安装源的配置,理解了本文,还可以安装pytorch等其他开发框架。

fengmian

2. GPU工具链安装

2.1 GPU工具链的组成

Nvidia显卡、显卡驱动、cuda工具套件、cuDNN工具包四部分构成。

目前支持深度学习的显卡基本上就是N卡,不论是硬件性能,还是最新的论文支持基本上都是N卡,所以不用在这里纠结了,采购时一定要上N卡。

• 什么是cuda CUDA(ComputeUnified Device Architecture),是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构,该架构使GPU能够解决复杂的计算问题。注意:cuda的支持依赖显卡驱动的版本。

• 什么是cuDNN NVIDIA cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA cuDNN可以集成到更高级别的机器学习框架中,如谷歌的Tensorflow、加州大学伯克利分校的流行caffe软件。简单的插入式设计可以让开发人员专注于设计和实现神经网络模型,而不是简单调整性能,同时还可以在GPU上实现高性能现代并行计算。

• CUDA与CUDNN的关系 CUDA看作是一个并行计算架构平台,cuDNN是基于CUDA的深度学习GPU加速库,有了它才能在GPU上完成深度学习的计算。想要在CUDA上运行深度神经网络,就要安装cuDNN,这样才能使GPU进行深度神经网络的工作,工作速度相较CPU快很多。

2.2 安装nvidia显卡驱动

下载地址:https://www.nvidia.com/download/index.aspx?lang=en-us

2

根据提供的下载链接选择电脑对应的最新显卡驱动安装即可,这里需要记录一下显卡驱动的版本,安装cuda要用,我这台老电脑显卡驱动的文件名为425.31-notebook-win10-64bit-international-whql.exe,版本是425.31。

2.3 安装cuda-通用并行计算架构平台

• 查询显卡可支持的cuda版本

• https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html

根据上一个步骤下载的显卡驱动的版本,选择可支持的最新cuda toolkit版本,从上图中可以看到支持425.31驱动版本的cuda toolkit版本是CUDA 10.1 (10.1.105 general release, and updates) ,因此选择下载cuda10.1的版本。

• 显卡驱动cuda版本对照表

• 安装cuda

• https://developer.nvidia.com/cuda-toolkit-archive

• cuda下载地址:

• 下载最新版本的cuda10.1

4

• 选择配置

3

• 下载完成后,文件名为cuda_10.1.243_426.00_win10.exe,双击一直下一步安装即可, 默认安装路径为C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1。

2.4 安装cuDNN-深度学习GPU加速库

• cuDNN下载地址(需要注册)

• https://developer.nvidia.com/rdp/cudnn-archive

• cuDNN版本的选择 以tensorflow常见cuda和cuDNN搭配为主。

11

12

下载的cuda版本为10.1版本,从列表中查找支持cuda10.1的最新的cuDNN版本是cuDNN7.6.5,下载后的cuDNN文件为cudnn-10.1-windows10-x64-v7.6.5.32.zip

• 安装cuDNN

• 将下载的cudnn-10.1-windows10-x64-v7.6.5.32.zip解压,然后将解压后cuda文件夹下的文件或文件夹,完全拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1目录下即可。

6

2.5 测试GPU环境

• 命令提示行输入nvidia-smi查询GPU使用情况和更改GPU状态的功能

PS C:\Users\zhoushimin> nvidia-smiMon Apr 04 22:00:37 2022+-----------------------------------------------------------------------------+| NVIDIA-SMI 426.00       Driver Version: 426.00       CUDA Version: 10.1     ||-------------------------------+----------------------+----------------------+| GPU  Name            TCC/WDDM | Bus-Id        Disp.A | Volatile Uncorr. ECC || Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. ||===============================+======================+======================||   0  GeForce GT 650M    WDDM  | 00000000:01:00.0 N/A |                  N/A || N/A   36C    P0    N/A /  N/A |     40MiB /  2048MiB |     N/A      Default |+-------------------------------+----------------------+----------------------++-----------------------------------------------------------------------------+| Processes:                                                       GPU Memory ||  GPU       PID   Type   Process name                             Usage      ||=============================================================================||    0                    Not Supported                                       |+-----------------------------------------------------------------------------+

如果提示'nvidia-smi' 不是内部或外部命令,也不是可运行的程序,则可能环境变量没有配置好,需要将 C:\Program Files\NVIDIA Corporation\NVSMI 目录添加到系统环境变量中关闭命令提示符,重新打开输入 nvidia-smi 就可以看到上面的输出结果了。

7

• 查看cuda版本 输入nvcc -V查看cuda版本

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.243

可以看到cuda版本为10.1

• 查看cuDNN版本 输入如下命令查看

type "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include\cudnn.h" | less

按回车键,直到输出结果如下:

#ifndef CUDNN_VERSION_H_#define CUDNN_VERSION_H_#define CUDNN_MAJOR 7#define CUDNN_MINOR 6#define CUDNN_PATCHLEVEL 5#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)#endif /* CUDNN_VERSION_H */

可知cuDNN的版本为7.6.5

如果找不到相关信息,可以使用如下命令测试

type "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include\cudnn_version.h" | less

3. 安装Anaconda

3.1 概述

Anaconda,中文大蟒蛇,是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。其简化了python软件包的安装,并且自动关联依赖,自动下载依赖的软件包,避免不必要的冲突,另外,anaconda最重要的功能就是创建虚拟环境,实现各种项目开发框架及版本的隔离。

3.2 下载anaconda

Anaconda的官方下载速度较慢,推荐使用清华大学的源下载,尽量选择日期较新的版本,根据操作系统版本选择对应的版本。

• 官方下载地址:https://www.anaconda.com/

• 国内下载地址:

• 清华大学 https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/

8

3.3 安装Anaconda

注意事项:不要有中文路径,安装过程无脑下一步即可。 安装完毕之后,python、pip等软件均已安装完毕。

3.4 测试Anaconda

在命令提示符输入conda -V查看conda版本,以确认conda环境是否生效。

PS C:\Users\zhoushimin> conda -Vconda 4.10.3

3.5 配置Anaconda

由于Anaconda官方服务器在国外,安装python软件包时下载速度巨慢,因此需要配置国内安装源,在这里使用清华大学的第三方源。

• 首先找到配置文件【.condarc】,其在C盘用户目录下,如图:

9

如果不存在,则直接创建即可。

• 打开文件后,将以下内容拷贝到文件中

channels:- defaultsshow_channel_urls: truedefault_channels:- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2custom_channels:conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudmsys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudbioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudmenpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudpytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudpytorch-lts: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloudsimpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud

• 清除索引缓存 在命令行执行命令

conda clean -i

• 建立虚拟环境测试下载速度

conda create -n myenv numpy

测试时会发现下载包的速度杠杠的,测试完毕后,删除myenv虚拟环境

conda remove -n myenv --all

• 恢复官方安装源 如果使用第三方源出现问题,可以恢复官方安装源重试,恢复指令如下:

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2430

4. 配置pip国内安装源

使用pip安装软件包时,有些安装包下载速度特别慢,可以选择国内的安装源。

4.1 安装源列表

以下安装源可以选择:

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2431

4.2 安装源的使用方式

4.2.1 临时使用

以安装tensorflow使用阿里云安装源为例,在-i后面指定安装源即可

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2432

4.2.2 永久使用

做如下配置后,无需再使用-i选项

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2433

4.2.3 恢复官方安装源

如果安装源出现异常,恢复官方安装源的方式如下:

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2434

5. 安装tensorflow

5.1 创建tensorflow虚拟环境

为了隔离不同项目可能对应的不同tensorflow版本或pytorch或python版本,强烈建议使用conda创建不同的虚拟环境以实现各种不同的开发环境的隔离。

我们需要根据开发框架、cuda版本等信息综合选择合适的开发环境,强烈不建议自行搭建开发环境适配开源框架,你会怀疑人生,时间周期可能是星期级别!

5.1.1 查看开源框架支持的python和tensorflow版本

博主的需求是安装物体检测API[OBJECT DETECTION API],根据项目的最低配置可以了解到支持的是tensorflow-2.2 python3.6

10

5.1.2 查看cuda可支持的tensorflow版本

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2435

5.1.3 根据开源框架支持的tensorflow版本、cuda版本,选择tensorflow-2.2,python-3.6,根据这些信息创建虚拟环境

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2436

详细命令如下:

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2437

输出如下:

PS C:\Users\zhoushimin> PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2437Collecting package metadata (repodata.json): doneSolving environment: done==> WARNING: A newer version of conda exists. <==current version: 4.10.3latest version: 4.12.0Please update conda by running$ conda update -n base -c defaults conda## Package Plan ##environment location: D:\Tools\Anaconda3\envs\tensorflow-2.2-py36added / updated specs:- python=3.6The following packages will be downloaded:package                    |            build---------------------------|-----------------certifi-2021.5.30          |   py36haa95532_0         142 KB  defaultspip-21.2.2                 |   py36haa95532_0         2.1 MB  defaultspython-3.6.13              |       h3758d61_0        17.7 MB  defaultssetuptools-58.0.4          |   py36haa95532_0         976 KB  defaultswincertstore-0.2           |   py36h7fe50ca_0          13 KB  defaults------------------------------------------------------------Total:        20.9 MBThe following NEW packages will be INSTALLED:certifi            anaconda/pkgs/main/win-64::certifi-2021.5.30-py36haa95532_0pip                anaconda/pkgs/main/win-64::pip-21.2.2-py36haa95532_0python             anaconda/pkgs/main/win-64::python-3.6.13-h3758d61_0setuptools         anaconda/pkgs/main/win-64::setuptools-58.0.4-py36haa95532_0sqlite             anaconda/pkgs/main/win-64::sqlite-3.38.2-h2bbff1b_0vc                 anaconda/pkgs/main/win-64::vc-14.2-h21ff451_1vs2015_runtime     anaconda/pkgs/main/win-64::vs2015_runtime-14.27.29016-h5e58377_2wheel              anaconda/pkgs/main/noarch::wheel-0.37.1-pyhd3eb1b0_0wincertstore       anaconda/pkgs/main/win-64::wincertstore-0.2-py36h7fe50ca_0Proceed ([y]/n)? y

等待执行完毕。

5.2 切换至虚拟环境,安装tensorflow

• 切换至虚拟环境

PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2439

• 安装tensorflow

type "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include\cudnn.h" | less0

• 安装完毕后的输出如下

type "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include\cudnn.h" | less1

5.3 测试tensorflow gpu环境

创建gpu_tf_test.py,拷贝如下代码:

type "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include\cudnn.h" | less2

执行测试

# 切换至虚拟环境PS C:\Users\zhoushimin> nvcc -Vnvcc: NVIDIA (R) Cuda compiler driverCopyright (c) 2005-2019 NVIDIA CorporationBuilt on Sun_Jul_28_19:12:52_Pacific_Daylight_Time_2019Cuda compilation tools, release 10.1, V10.1.2439# 执行测试python gpu_tf_test.py

输出如下:

type "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\include\cudnn.h" | less4

从日志中可以看到显卡GeForce GT 650M已经加载成功了,cuda也加载成功了,因为GPU性能较弱,仅3.0,不满足最小要求3.5,直接使用的cpu在运行。

6. 总结

总体来说,深度学习安装环境的安装还是比较麻烦的,涉及到

• 显卡支持的cuda版本确定

• 依赖新卡驱动版本号

• cuDNN版本的确认

• 依赖cuda版本和开发框架匹配的cuDNN版本

• python版本的确认等

• 依赖开源项目支持的版本

一般来说,一个项目一个环境,避免环境冲突。一个项目一个环境可以通过anaconda来实现,也可以使用docker来实现隔离。有一些框架在windows平台支持不好,例如目标检测框架MMDetection,尽可能还是使用linux环境来做开发。

以上是我的学习总结,有问题欢迎交流。

参考链接:

• CUDA与cuDNN:https://www.jianshu.com/p/622f47f94784

推荐阅读:

物体检测快速入门系列(1)-Windows部署GPU深度学习开发环境

物体检测快速入门系列(2)-Windows部署Docker GPU深度学习开发环境

物体检测快速入门系列(3)-TensorFlow 2.x Object Detection API快速安装手册

物体检测快速入门系列(4)-基于Tensorflow2.x Object Detection API构建自定义物体检测器

原文:https://juejin.cn/post/7101131516964503565


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:/AI/3444.html