NVIDIA CUDA
2020-10-09 17:45:35
NJTST
56
CUDA：
是Nvidia推出的只能用于自家GPU的并行计算框架。
只有安装这个框架才能够进行复杂的并行计算。
主流的深度学习框架也都是基于CUDA进行GPU并行加速的，几乎无一例外。
还有一个叫做cudnn，是针对深度卷积神经网络的加速库。
CUDA：NVIDIA开发的一套并行运算平台，可以利用NVIDIA旗下显卡（AMD的不支持）的架构特性，进行科学计算，比如现在大热的人工智能等等，都需要GPU来协助进行计算。
你可以把CUDA想象成NVIDIA公司提供的一个计算平台，你在这个平台上，可以使用NV公司提供给你的各种便捷计算工具来进行计算，不需要你自己再来开发这些工具。
简单来讲，
比如，我们要算100,000次从1加到10,000,000，如果利用一个4线程CPU，需要100000/4=250000次，
而用GPU（假如它是1000个线程），这个1000线程的GPU要算1000000/1000=1000次，
但是现在如果使用CUDA，它能提供一种类似高斯“1加到50，利用首尾相加再除以2”的方法来简化计算，
那么使用CUDA后的NV显卡可能只需要计算200次，可见效率提高了很多。