具有 NNAPI 委托的 tensorflow lite 的多个实例

Multiple instances of tensorflow lite with NNAPI delegate

Tensorflow lite 中的 NNAPI Delegate 为图的输入和输出张量使用共享内存。然而,共享内存池的名称是硬编码的("input_pool""otput_pool"):

  // Create shared memory pool for inputs and outputs.
  nn_input_memory_.reset(
      new NNMemory(nnapi_, "input_pool", total_input_byte_size));
  nn_output_memory_.reset(
      new NNMemory(nnapi_, "output_pool", total_output_byte_size));

现在如果执行带有 NNAPI 委托的 tensorflow lite 的多个实例会发生什么?根据我的理解,它们都将映射并使用相同的共享内存池。这不会导致竞争条件吗?

给共享名起的名字只是作为一个标签。在创建两个不同的共享内存区域时使用相同的名称不会导致使用相同的内存。参见示例 the case where no name is provided,所有区域都使用名称“none”创建。