Onnx 到 trt - [8] 断言失败:创建者 && “找不到插件
Onnx to trt - [8] Assertion failed: creator && "Plugin not found
我正在使用 TensorRT 将模型从 onnx 格式转换为 trt 格式。该模型最初是来自 Tensorflow Model Zoo (SSD ResNet50) 的 tensorflow 模型。当我尝试转换它时出现错误:
[E] [TRT] /home/jenkins/agent/workspace/OSS/OSS_L0_MergeRequest/oss/parsers/onnx/ModelImporter.cpp:708: ERROR: /home/jenkins/agent/workspace/OSS/OSS_L0_MergeRequest/oss/parsers/onnx/builtin_op_importers.cpp:4298 In function importFallbackPluginImporter: [8] Assertion failed: creator && "Plugin not found, are the plugin name, version, and namespace correct?"
[E] Engine set up failed &&&& FAILED TensorRT.trtexec # trtexec --onnx=../model.onnx --fp16=enable --workspace=5500 --batch=1 --saveEngine=model_op11.trt --verbose
据我所知,它正在寻找 NonMaxSuppresion
操作的插件。
有谁知道如何将模型从 Tensorflow Model Zoo 转换为 TensorRT?
使用 TensorRT 8 解决了这个问题。
我正在使用 TensorRT 将模型从 onnx 格式转换为 trt 格式。该模型最初是来自 Tensorflow Model Zoo (SSD ResNet50) 的 tensorflow 模型。当我尝试转换它时出现错误:
[E] [TRT] /home/jenkins/agent/workspace/OSS/OSS_L0_MergeRequest/oss/parsers/onnx/ModelImporter.cpp:708: ERROR: /home/jenkins/agent/workspace/OSS/OSS_L0_MergeRequest/oss/parsers/onnx/builtin_op_importers.cpp:4298 In function importFallbackPluginImporter: [8] Assertion failed: creator && "Plugin not found, are the plugin name, version, and namespace correct?"
[E] Engine set up failed &&&& FAILED TensorRT.trtexec # trtexec --onnx=../model.onnx --fp16=enable --workspace=5500 --batch=1 --saveEngine=model_op11.trt --verbose
据我所知,它正在寻找 NonMaxSuppresion
操作的插件。
有谁知道如何将模型从 Tensorflow Model Zoo 转换为 TensorRT?
使用 TensorRT 8 解决了这个问题。