在win10 系统下,显卡1650,YOLOv4训练自己的模型,不管怎么修改#batch和subdivisions内存一直溢出
cfg中的batch往小了改,图片输入改小,但是最好保证subdivisions<=batch size.,最好先把两个都设置为1或者2,看下能不能运行起来,排除一些是其他问题。
不过本来就4G显存,windows占用一些,剩下的估计就3g左右了
https://github.com/AlexeyAB/darknet/wiki/FAQ---frequently-asked-questions
谢谢,已经解决了,去YOLO4作者的git看了一圈,是因为输入图像尺寸过大的问题,显存4G最好输入图像尺寸不要超过416,之前看的帖子大都是调整batch和subdivisions,看来cfg文件里面的图片尺寸也需要注意