Tensorflow与Tensorflow Lite的性能对比

Question

将TensorFlow模型转换为TensorFlow Lite格式时是否存在性能损失？ 因为我从不同的边缘设备获得了这些结果：

当英伟达JETSON与树莓流模型（TunSurrite Lite模型）相比，它有更高的精度，与TunSur流动模型（TunSurrt优化）相比，具有更高的精度。p>

Answer 1

通常情况下，会有性能损失，但不会有太大的损失，更准确地说，在某些特定模型中，精度约为3%，但您必须自己测试以检查精度

受TensorRT或TensorFlow Lite约束的模型不会经过相同的精确转换步骤（否则它们将是相同的）。因此，很明显，差异是显而易见的

总结：与性能损失（最大3%）相比，速度增益更为重要。对于每一个假设，都应采用测试

这篇文章也是一本好书：https://www.hackster.io/news/benchmarking-tensorflow-and-tensorflow-lite-on-the-raspberry-pi-43f51b796796