pytorch2onnx动态推理以及速度问题
使用torch.onnx.export将torch模型转化为onnx模型，但是动态尺寸无法实现，我已经设置了参数dynamic_axis那个，然后使用onnx在3090上面推理，耗时是pytorch原模型的几十倍，接近一百倍，请问有动态尺寸转化成功的吗？
- 动态尺寸慢很正常，毕竟所有的缩放需要重新计算，如果你确定你的模型就使用了2个尺寸的话，那么加载之后预热一下这两个尺寸，先跑个两三次，后面的速度就快了
使用torch.onnx.export将torch模型转化为onnx模型，但是动态尺寸无法实现，我已经设置了参数dynamic_axis那个，然后使用onnx在3090上面推理，耗时是pytorch原模型的几十倍，接近一百倍，请问有动态尺寸转化成功的吗？