在 java 中使用训练有素的张量流的最佳方式是什么

Question

我在 eclipse 中 javaFx 编码 UI 因为我只能用java，不能用python，不能用c。

现在我尝试在此 UI 中使用经过训练的 tensorflow 文件。 （此 tensorflow 文件在 python 下）

我正在寻找几种方法（API、jython、TCP/IP），但我不确定哪种方法最好。

请写下你的看法，哪个优点更多，哪个缺点更少。

Answer 1

我认为有两种方法，

1. tensorflow-serving 使用 grpc 从 java 连接到服务服务器，使其独立于任何语言。查看 here 了解详情。
2. 使用tensorflowjavaAPI。 Here and Here 是在本机 java 程序中使用对象检测模型的示例。

现在，tensorflow-serving 是首选方法，因为它有几个优点。服务针对速度和资源管理（如 GPU）进行了大量优化。它还堆叠多个请求（如果有太多），然后以高效利用 GPU 的方式批量处理它们。