我在jetson tx2上用yolov5进行图像识别,结果跑出来一张图片要0.2-0.3s 也就一秒几帧,这正常吗
各位帮我看看jetson tx2的GPU是用上了吧?
用tensorrt加速,也没多快
在PC上跑的,最垃圾的1050ti显卡
我用的是yolov5x.pt这个模型,看介绍是比较大的模型,yolov5s.pt至少快3倍,不过看一些博主的博客yolov5在tx2上能跑15-30帧,我就想问问这是正常现象吗?
板子我没用过,不过我之前在哪里看到过,你这个板子显卡性能本身就不是很好,相当于GT740M还是750M的显卡来着,只不过显存比较大一些。另外就是试一试一些的优化了,比如你可以试试看下onnxsim优化一下看下速度有无提升(30系我试了提升不了多少),TRT的话使用FP16和int8优化提升挺大的,但是我不知道你这个板子能否支持FP16。当然,你显存大的话,可以试一试批处理,应该会快上一些,如果是视频的话,批处理就不是那么好做了。
这种嵌入式的东西本来的目的就是要和桌面端缩小差距,即便你认为最差劲的1050ti其实在工业上也是无敌奢华的存在,他们的15-30帧不能只看模型参数个数也要看图片大小的吧