MediaPipe TensorflowLite 虹膜模型

Question

我正在尝试了解可从 mediapipe 获得的 tflite Iris landmarks model 的输出。

model card 将输出描述为 71 个 2D 地标和 5 个 2D 地标。检查模型时如下：

interpreter = tf.lite.Interpreter(model_path='iris_landmark.tflite')
interpreter.allocate_tensors()
output_details = interpreter.get_output_details()

print(output_details)
[{'dtype': numpy.float32,
  'index': 384,
  'name': 'output_eyes_contours_and_brows',
  'quantization': (0.0, 0),
  'quantization_parameters': {'quantized_dimension': 0,
   'scales': array([], dtype=float32),
   'zero_points': array([], dtype=int32)},
  'shape': array([  1, 213], dtype=int32),
  'shape_signature': array([  1, 213], dtype=int32),
  'sparsity_parameters': {}},
 {'dtype': numpy.float32,
  'index': 385,
  'name': 'output_iris',
  'quantization': (0.0, 0),
  'quantization_parameters': {'quantized_dimension': 0,
   'scales': array([], dtype=float32),
   'zero_points': array([], dtype=int32)},
  'shape': array([ 1, 15], dtype=int32),
  'shape_signature': array([ 1, 15], dtype=int32),
  'sparsity_parameters': {}}]

我在模型输出中看到 213 个值和 15 个值 - 所以我假设我得到每个点的 x/y/z 坐标。在运行图像上的模型之后，我得到 -7000 到 +7000 范围内的值。我的输入是一张 64x64 的图像，知道这些点如何与原始图像对应吗？

我想要眼睛关键点的像素坐标，这些坐标在 mediapipe 示例中呈现。

Answer 1

模型卡好像是错误的，它实际上输出的是3D坐标，模型输入和输出也有一些归一化，不太清楚，但是用于绘制2d地标。

我用我的发现 here 打开了一个 github 问题。我还没有看到任何与模型卡相关的变化。

我创建了一个演示正确用法的 colab，here。您可以忽略 z 坐标并将 x/y 坐标绘制到图像上以查看地标。

我可能应该用虹膜图片示例更新 colab。

MediaPipe TensorflowLite 虹膜模型

MediaPipe TensorflowLite Iris Model

computer-vision

tensorflow-lite

mediapipe