Jetson tx2运行yolov5检测速度的问题

问题遇到的现象和发生背景

我在jetson tx2上用yolov5进行图像识别,结果跑出来一张图片要0.2-0.3s 也就一秒几帧,这正常吗

运行结果及报错内容

各位帮我看看jetson tx2的GPU是用上了吧?

img

用tensorrt加速,也没多快

img

在PC上跑的,最垃圾的1050ti显卡

img

我的解答思路和尝试过的方法

我用的是yolov5x.pt这个模型,看介绍是比较大的模型,yolov5s.pt至少快3倍,不过看一些博主的博客yolov5在tx2上能跑15-30帧,我就想问问这是正常现象吗?

板子我没用过,不过我之前在哪里看到过,你这个板子显卡性能本身就不是很好,相当于GT740M还是750M的显卡来着,只不过显存比较大一些。另外就是试一试一些的优化了,比如你可以试试看下onnxsim优化一下看下速度有无提升(30系我试了提升不了多少),TRT的话使用FP16和int8优化提升挺大的,但是我不知道你这个板子能否支持FP16。当然,你显存大的话,可以试一试批处理,应该会快上一些,如果是视频的话,批处理就不是那么好做了。

这种嵌入式的东西本来的目的就是要和桌面端缩小差距,即便你认为最差劲的1050ti其实在工业上也是无敌奢华的存在,他们的15-30帧不能只看模型参数个数也要看图片大小的吧