.tflite 文件无法量化？（发生操作系统错误）

Question

我必须尝试对我的模型 (tflite) 进行量化。

我想通过动态范围量化将float32改为float 16

这是我的代码：

import tensorflow as tf
import json
import sys
import pprint
from tensorflow import keras
import numpy as np

converter = tf.lite.TFLiteConverter.from_saved_model('models')
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_types = [tf.float16]
tflite_quant_model = converter.convert()
open("quant.tflite", "wb").write(tflite_quant_model)

在我的 MacBook 中，有一个名为 'models' 的文件夹，其中包含两个 tflite 文件。

当我执行代码时，出现以下错误：

converter = tf.lite.TFLiteConverter.from_saved_model('quantization')
OSError: SavedModel file does not exist at: models/{saved_model.pbtxt|saved_model.pb}

我查了stack overflow的大部分帖子，都没有找到解决方法。

请检查我的代码并给我一些建议。

我上传了我的 tflite 文件，因为我想有必要检查是否有问题。

这是我的模型（下载link）：

https://drive.google.com/file/d/13gft7bREsv2vZYFvfoCiP5ndxHkfGKIM/view?usp=sharing

非常感谢。

Answer 1

tf.lite.TFLiteConverter.from_saved_model 函数将张量流 (.pb) 模型作为参数。另一方面，你给了一个tensorflowlite（.tflite）模型，这必然会导致错误。如果您想将模型转换为 float 16，我知道的唯一方法是采用“.pb”格式的原始模型，然后根据需要进行转换

.tflite 文件无法量化？ （发生操作系统错误）

Is it impossible to quantization the .tflite file? (OSError Occurred)

quantization

tensorflow

.tflite 文件无法量化？（发生操作系统错误）