使用tflite cause runtim进行训练后量化

Question

我正在尝试量化我的模型（特别是在coco上预先训练过的更快的curcnn_inception_v2，是从model zoo下载的），希望能加快推断时间。在

我使用here中的以下代码：

import tensorflow as tf
converter = tf.lite.TocoConverter.from_saved_model(saved_model_dir)
converter.post_training_quantize = True
tflite_quantized_model = converter.convert()
open("quantized_model.tflite", "wb").write(tflite_quantized_model)

模型目录没有saved_model.pb文件。所以我将frozen_inference_graph.pb重命名为saved_model.pb。在

运行上述代码会产生以下运行时错误：

^{pr2}$

这是什么意思？我该怎么做？在

Answer 1

你应该用tf.saved_模型.simple\u save保存pb模型。在

Answer 2

请参考this issue。他们似乎和你有同样的问题。在

最近的服务标签可能已经从最近的服务标签转换为服务。在