Yolofastest_v2 使用GPU训练速度很快，识别速度很慢？

CPU:AMD R7-6800H

显卡：RTX3050TI（笔记本版本，显存4GB）

使用GPU训练的时候速度很快，一百张图片（图片较小）,epoch=300，大概2分40秒，这项比cpu快的多，而识别的时候却变得很慢，要几千ms，使用cpu的时候也就几十ms。

跑的时候看下开下任务管理器，这里切换成cuda，然后运行看下这里的cuda和下面的现存有无上升，有上升说明有调用显卡。
另外，你的模型有无预热？一般来说，显卡推理的前一两张速度会很慢，后面速度就飞起了。

首先，定位耗时的代码在哪里？
t1=time.time()
code..........
t2=time.timg()
print(t2-t1)
通过上面的代码把耗时长的那部分代码找到！