将 h5 转换为 tflite

Question

我一直在尝试将这个零样本文本分类joeddav / xlm-roberta-large-xnli从h5转换为tflite文件（https://huggingface.co/joeddav/xlm-roberta-large-xnli），但是弹出这个错误，我在网上找不到它的描述，它是如何固定的？如果不能，是否有另一个我可以使用的零样本文本分类器，即使在成为 tflite 后也能产生类似的准确性？

AttributeError: 'T5ForConditionalGeneration' object has no attribute 'call'

我一直在尝试一些不同的教程，而我当前的 google colab 文件是其中几个教程的混合体。 https://colab.research.google.com/drive/1sYQJqvhM_KEvMt2IP15d8Ud9L-ApiYv6?usp=sharing

Answer 1

[将 TFLite 从保存的 .h5 模型转换为 TFLite 模型]

使用tflite转换有多种方式

TF-Lite转换器TF-Lite convertor
TF.Lite.TFLiteConverter 否则

他们目前通过提供的链接尝试将保存的模型 .h5 转换为 TFLite，以确认他们的问题。

[样本]:

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: Model Initialize
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
model = tf.keras.models.Sequential([
    tf.keras.layers.InputLayer(input_shape=( 32, 32, 3 )),
    tf.keras.layers.Dense(128, activation='relu'),
])
model.compile(optimizer='sgd', loss='mean_squared_error') # compile the model
model.summary()

model.save_weights(checkpoint_path)

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: FileWriter
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
if exists(checkpoint_path) :
    model.load_weights(checkpoint_path)
    print("model load: " + checkpoint_path)


tf_lite_model_converter = tf.lite.TFLiteConverter.from_keras_model(
    model
) # <tensorflow.lite.python.lite.TFLiteKerasModelConverterV2 object at 0x0000021095194E80>
tflite_model = tf_lite_model_converter.convert()

# Save the model.
with open(checkpoint_dir + '\model.tflite', 'wb') as f:
    f.write(tflite_model)

[输出]:

将 h5 转换为 tflite

Converting h5 to tflite

text-classification

tensorflow

tensorflow-lite

huggingface-transformers

huggingface