我打算用TensorRT加速模型推理,在下载CUDA的时候有几个问题。一是我是在PyTorch官网下载的PyTorch,本身就会下载CUDA,我使用命令发现CUDA版本是12.1,可现在官方那里也没有12.1的CUDA,CUDA官网下载的是11.6,PyTorch下载的最高才是11.8.不太理解是怎么回事。这两个CUDA是一个东西吗?是的话怎么找到我在PyTorch下载的CUDA呢?另一方面,我在CUDA官网下载11.6的CUDA,下载过程中说是要下载VSstudio,我下载之后还是不行。
nvidia-smi的结果是你的驱动支持最高的cuda版本,也就是你的cuda不高于这个版本号的话,驱动可以不需要更新就可以使用,而不是你实际的cuda。
另外,如果你不开发cuda相关的话,可以选择自定义安装,然后将cuda里面和vs相关的勾选去掉之后安装即可,并不一定要下载vs