技术文档

NVIDIA CUDA

2020-10-09 17:45:35 NJTST 40


CUDA

是Nvidia推出的只能用于自家GPU的并行计算框架。

只有安装这个框架才能够进行复杂的并行计算。

主流的深度学习框架也都是基于CUDA进行GPU并行加速的,几乎无一例外。

还有一个叫做cudnn,是针对深度卷积神经网络的加速库。




CUDANVIDIA开发的一套并行运算平台,可以利用NVIDIA旗下显卡(AMD的不支持)的架构特性,进行科学计算,比如现在大热的人工智能等等,都需要GPU来协助进行计算。


你可以把CUDA想象成NVIDIA公司提供的一个计算平台,你在这个平台上,可以使用NV公司提供给你的各种便捷计算工具来进行计算,不需要你自己再来开发这些工具。


简单来讲,

比如,我们要算100,000次从1加到10,000,000,如果利用一个4线程CPU,需要100000/4=250000次

而用GPU(假如它是1000个线程),这个1000线程的GPU要算1000000/1000=1000次


但是现在如果使用CUDA,它能提供一种类似高斯“1加到50,利用首尾相加再除以2”的方法来简化计算,

那么使用CUDA后的NV显卡可能只需要计算200次,可见效率提高了很多。




解决方案