tensorflow lite 模型已经量化了吗?

Is tensorflow lite model already quantized?

转换后的tensorflow lite模型总是有量化计算和输出吗? 还是取决于tensorflow模型的输入和推理类型?

这取决于推理类型。

首先应该对输入模型进行量化操作,https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/quantize 对此很有帮助。

应将生成的评估图提供给 TOCO,以便使用 --inference_type=QUANTIZED_UINT8 以及输入数组的正确 --mean_values 和 --std_values 进行转换。

有关如何为量化模型调用 TOCO 的一些示例,请参阅 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/toco/g3doc/cmdline_examples.md

更新:我们添加了一个新的 post 训练量化工具:https://medium.com/tensorflow/tensorflow-model-optimization-toolkit-post-training-integer-quantization-b4964a1ea9ba 应该比旧的量化方法更容易。