虚拟内存也有设置。
不知道你这个问题是否已经解决, 如果还没有解决的话:兴高采烈的安装完gpu版本的pytorch,终于可以开始训练人工智障了!可是,当运行完一轮后,啪啪打脸,一个报错甩出来
报错是这样的:
一开始我百度半天也没解决问题,仔细看了下报错信息,里面有一句是这样的
Could not run ‘torchvision::nms’ with arguments from the ‘CUDA’ backend. This could be because the operator doesn’t exist for this backend, or was omitted during the selective/custom build process
这不就是torchvision的问题嘛!然后百度才发现,torchvision也是分cpu版本和gpu版本的,我一开始直接用的 pip install torchvision
,也是安装的cpu版本!也就是说我是gpu版的torch+cpu版的torchvision,不报错才怪…
后来卸载torchvision,重新安装gpu版的torchvision,成功跑完300轮!其实仔细看安装pytorch时的命令,是一并安装了gpu版的torchvision的。
下面秀一张跑完之后的截图
显卡的显存不够啊,要么降低batch size,要么降低图片的imgs这个参数,自己多调整几次就可以跑了。