跑yolo3的voc数据集,电脑无法运行,说gpu显存不足,但是仍有8G空闲,请问一下如何使用这8G
显存不足的意思不是说报不足的时候你还有8G空闲,是你目前这个8G空闲的不够,打个比方说目前需要9G显存,你只有8G空闲,申请不下来所以你空闲的还是8g,但是如果是要7g,那么足够申请下来,你的空闲就会变成1g了。
显存不足的话要修改下batch-size的大小,比如原本32改成16,12,10,,8,6,4等,batch size 改到4还是不行的话考虑下将image-size改小(batch size过小训练效果也不会很好),如果640x640改成512x512或者320x320之类的
batchsize太大了!你设置成4或者2试试