TensorFlow:保存前使用 python 量化模型
TensorFlow: Quantize model using python before save
在线教程展示了如何量化 .pb
TensorFlow 模型,请参阅:
https://petewarden.com/2016/05/03/how-to-quantize-neural-networks-with-tensorflow/
我想知道的是,在使用 tf.train.write_graph()
保存 .pb
文件之前,是否有一种方法可以使用 python 量化图形
换句话说,有没有像 quantize(graph_def)
这样的函数,我可以在保存之前 运行 将图形量化为 8 位权重和运算,从而省去了必须通过保存文件后的命令行(如上面链接的教程概述)。
您可以直接从 Python 使用图形转换工具的 quantize_weights and quantize_nodes 规则。这是一个例子:
https://github.com/tensorflow/tensorflow/blob/master/tensorflow/tools/graph_transforms/python/transform_graph_test.py#L76
在线教程展示了如何量化 .pb
TensorFlow 模型,请参阅:
https://petewarden.com/2016/05/03/how-to-quantize-neural-networks-with-tensorflow/
我想知道的是,在使用 tf.train.write_graph()
.pb
文件之前,是否有一种方法可以使用 python 量化图形
换句话说,有没有像 quantize(graph_def)
这样的函数,我可以在保存之前 运行 将图形量化为 8 位权重和运算,从而省去了必须通过保存文件后的命令行(如上面链接的教程概述)。
您可以直接从 Python 使用图形转换工具的 quantize_weights and quantize_nodes 规则。这是一个例子: https://github.com/tensorflow/tensorflow/blob/master/tensorflow/tools/graph_transforms/python/transform_graph_test.py#L76