用cpu跑yolov5时一切正常
用gpu跑yolov5时出现 nan
这可能是PyTorch在其他一些问题中提到的Windows/conda/CUDA11错误,在这种情况下,降级到CUDA 10可以解决这个问题。
或者,您的数据集标签可能存在一些问题。
版本支持的问题,Pytorch支持的CUDA的版本要和cuDNN支持的版本相同才行。
你把你的batch_size改小一点试试呢,应该是尺寸的问题
先按照程序警告修改试试
你在optimizer.step()之前调用了lr_scheduler.step(),后者是调学习率的,如果先调用后者,将会改变前者里的学习率,尝试将二者的顺序调换一下。
如有帮助,请采纳,多谢!
可能GPU显存不够。