TensorFlow:保存前使用 python 量化模型

TensorFlow: Quantize model using python before save

在线教程展示了如何量化 .pb TensorFlow 模型,请参阅:

https://petewarden.com/2016/05/03/how-to-quantize-neural-networks-with-tensorflow/

我想知道的是,在使用 tf.train.write_graph()

保存 .pb 文件之前,是否有一种方法可以使用 python 量化图形

换句话说,有没有像 quantize(graph_def) 这样的函数,我可以在保存之前 运行 将图形量化为 8 位权重和运算,从而省去了必须通过保存文件后的命令行(如上面链接的教程概述)。

您可以直接从 Python 使用图形转换工具的 quantize_weights and quantize_nodes 规则。这是一个例子: https://github.com/tensorflow/tensorflow/blob/master/tensorflow/tools/graph_transforms/python/transform_graph_test.py#L76