Tensorflow 与 Tensorflow Lite 的性能对比

Performance of Tensorflow vs Tensorflow Lite

将 TensorFlow 模型转换为 TensorFlow Lite 格式时是否有性能损失? 因为我从不同的边缘设备得到了这些结果:

与作为 TensorFlow Lite 模型的 Raspberry 模型相比,Nvidia Jetson 在 TensorFlow 模型(TensorRT 优化)上具有更高的准确性是否有意义。

正常情况下会有性能损失,但不会那么严重,更准确地说,在某些模型中准确率大约为 3%,但您必须自己测试以检查准确率。

受 TensorRT 或 TensorFlow-Lite 影响的模型不会经过完全相同的转换步骤(否则它们将是相同的)。因此,很明显,差异是显而易见的。

总而言之:与性能损失(最大 3%)相比,速度的提高更为重要。对于每一个假设测试都应该被采用。

这篇文章也值得一读:https://www.hackster.io/news/benchmarking-tensorflow-and-tensorflow-lite-on-the-raspberry-pi-43f51b796796