将 Tensorflow 模型从对象检测 API 转换为 uff

Question

似乎无法从盒子 Mobilenet（以及 TF OD API 的其他模型）转换为 uff 格式，然后再转换为 TensorRT 格式，because of much unsupported layers。 有什么方法可以删除\替换那些层吗？例如使用 graph_transform 工具？我了解并非所有这些层的目的。 这里是default model，如果有人想试试

Answer 1

UFF 转换工具似乎在一些无法识别的层上卡住了，也许这会在 GA 版本中得到改进。现在，您需要删除这些层（并且只保留推理所需的最小子集），然后使用 nvinfer 插件 API.

实现这些层

Answer 2

从2017年至今仍无明显进展。 许多新网络已经开发出来，但是UFF和TensorRT转换器即使从2017年开始仍然无法与许多模型一起工作，关于2019年我能说什么。

互联网上也有一些间接信息，从某种意义上说，NVIDIA 的 UFF 和 TRT 转换工作在非常小的部门，只有几个人。所以这条路似乎是死胡同。

更好的方式和他们所指望的方式是框架本身内部的转换工具。喜欢 Tensorflow do with their TRT bindings.

通过这种方法，新层是由框架开发人员而不是 Nvidia 添加的，因为那里的人跟不上营销。因此最终获得工作工具的机会更多。