Tensorflow-Onnx-Tensorrt 中的精度下降

Question

我有一个 tensorflow 训练模型并在 tensorflow 上测试，准确率达到 95%。

Tensorflow模型转换为ONNX，转换为TensorRT。 TensorRT 引擎以 16 位精度运行。 在 TensorRT 中，准确率下降到 75%。即使使用 kTF32，准确率仍然是 75%。 为两个测试和相同的输入大小测试了相同的图像。

我应该在哪里查看此准确度下降？唯一的区别是我在 TensorRT 中进行批量推理，而不是在 Tensorflow 中。

使用 OpenCV 为 Tensorflow 和 TensorRT 读取图像。

从 Tensorflow 到 ONNX 的转换精度会下降吗？

Answer 1

现在我找到了问题所在。 Tensorflow 通过乘以 1/255.0 对输入图像进行归一化。但是在tensorrt归一化中，是1-x/255.0。这就是问题所在。现在我有相同的准确性。