问题:pytorch本来想使用自动混合精度加速训练,apex.amp/torch,cuda.amp,结果反而训练变得更慢了
现象:使用apex.amp时间变慢,显存还增加了;
使用torch.cuda.amp时间比apex.amp更慢,不过显存相比没加amp的减少了,不过减少的不多
相关网站:apex.amp:github.com/NVIDIA/apex
torch.cuda.amp:
你好,我是有问必答小助手,非常抱歉,本次您提出的有问必答问题,技术专家团超时未为您做出解答
本次提问扣除的有问必答次数,将会以问答VIP体验卡(1次有问必答机会、商城购买实体图书享受95折优惠)的形式为您补发到账户。
因为有问必答VIP体验卡有效期仅有1天,您在需要使用的时候【私信】联系我,我会为您补发。