Tensorflow 2.0：冻结图支持

Question

在 tensorflow 2.0 中是否会继续支持冻结图或已弃用？我的意思是从 saved_model 到 create/optimize 冻结图的脚本和 API。运行的 API 也是相同的推断。

假设将来会支持，运行在tensorflow 2.0中对frozen graph进行推理的推荐方法是什么？

Answer 1

TensorFlow 2.0 将不支持冻结图 API - freeze_graph.py and converter_variables_to_constants。

在 2.0 中，主要导出格式是 SavedModels，因此构建 API 以直接支持 SavedModel。可以使用 v1.compat 路径运行对现有冻结图进行推理。

Answer 2

现在，freeze_graph 随 TensorFlow 2.0 稳定版正式消失。

Check Here.

Answer 3

如果您使用估算器构建模型，则可以使用 tf.estimator.Estimator.export_saved_model 冻结您的模型。

model = tf.estimator.Estimator(
    model_fn=model_fn, 
    model_dir=model_saved_dir)

def serving_input_receiver_fn():
    # in here, my input is 512 x 512 single channel image
    feature = tf.compat.v1.placeholder(tf.float32, shape=[None, 512, 512, 1], name="inputs")
    return tf.estimator.export.TensorServingInputReceiver(feature, feature)

model.export_saved_model(model_saved_dir, serving_input_receiver_fn)

此代码适用于 tensorflow 2.0

或者你用的是keras，可以参考官网的步骤 https://www.tensorflow.org/tutorials/keras/save_and_load#savedmodel_format

Tensorflow 2.0：冻结图支持

Tensorflow 2.0 : frozen graph support

tensorflow2.0