pytorch模型部署

我现在训练了一个pytorch的分类模型,想要部署到服务器上使用,后端使用的是java,不知道改怎么部署,只会调参,T﹏T,希望获得点思路

1.使用python的库,类似于flask和Django 之类的库部署在服务器,然后java传入数据并解析返回值。
2.java直接调用python环境,运行py文件得到结果
3.类似c++一样,将模型转成onnx然后调用,不过我只知道c++有opencv,tensorrt,libtorch(pytorch的c++版本,这个好像有java版本,不过只用过cpp,java不清楚,官网是有写),onnxrutime等等。或者你可以用c++实现然后java调用dll?
libtorch:http://www.pytorch.org/

img


4.java自己的神经网络框架(不了解)
5.转到ncnn然后用java调用(ncnn是安卓上面用的,理论上java是可以直接调用的)

把模型及代码打包成exe(Windows),或者二进制可执行文件linux版;
然后用Java 命令行调用