我玩yolov5转engine时候,老是提示我硬件不支持FP16,但我查阅又说支持FP16,这到底怎么回事啊
应该是支持的,并且fp16的性能和专业卡还没啥区别(fp32有区别,但是也支持)
1080显卡是支持半浮点数的。1.你要检查下你的tensorRT版本,6.0版本优化了FP16选项,你可能是要升级下tensorRT。2.export.py这个文件中,half选项有没有正确开启