NVIDIA CUDA
2020-10-09 17:45:35
NJTST
56
CUDA:
是Nvidia推出的只能用于自家GPU的并行计算框架。
只有安装这个框架才能够进行复杂的并行计算。
主流的深度学习框架也都是基于CUDA进行GPU并行加速的,几乎无一例外。
还有一个叫做cudnn,是针对深度卷积神经网络的加速库。
CUDA:NVIDIA开发的一套并行运算平台,可以利用NVIDIA旗下显卡(AMD的不支持)的架构特性,进行科学计算,比如现在大热的人工智能等等,都需要GPU来协助进行计算。
你可以把CUDA想象成NVIDIA公司提供的一个计算平台,你在这个平台上,可以使用NV公司提供给你的各种便捷计算工具来进行计算,不需要你自己再来开发这些工具。
简单来讲,
比如,我们要算100,000次从1加到10,000,000,如果利用一个4线程CPU,需要100000/4=250000次,
而用GPU(假如它是1000个线程),这个1000线程的GPU要算1000000/1000=1000次,
但是现在如果使用CUDA,它能提供一种类似高斯“1加到50,利用首尾相加再除以2”的方法来简化计算,
那么使用CUDA后的NV显卡可能只需要计算200次,可见效率提高了很多。