如何将 OpenVINO IR 模型部署到英特尔 Movidius Myriadx VPU
How to deploy OpenVINO IR model to Intel Movidius Myriadx VPU
我搜索了一段时间,没有找到任何关于将 OpenVINO IR 模型直接部署到 Intel 的 MyriadX VPU 的文档。
我的理解是它们都来自英特尔,应该有办法做到这一点。
我可以尝试什么来解决这个问题?
要用 MYRIAD 推断 IR,
您可以为此目的使用 OpenVINO official Samples。
在 Myriad 上使用 -d MYRIAD 参数 运行 它。
别忘了安装插件。
这似乎是同一个问题Github thread。
如果您阅读了我之前分享的文档,您会注意到 -h 参数会显示可以用它完成的所有操作 compile_tool。你会在那里得到答案。
运行 compile_tool: compile_tool.exe -m "model_location\efficientdet-d0-tf\FP16\efficientdet-d0-tf.xml" -d MYRIAD -o "location_you_want_to_store_the_blob\blob_efficientdet\blob_filename_must_have.blob “
Datasheet/Documentation现在是你最好的朋友,一定要阅读并尝试理解他们。
另外需要注意的是,与NCS2/MYRIAD/VPU相关的任何内容都必须是 FP16 格式。
我搜索了一段时间,没有找到任何关于将 OpenVINO IR 模型直接部署到 Intel 的 MyriadX VPU 的文档。
我的理解是它们都来自英特尔,应该有办法做到这一点。
我可以尝试什么来解决这个问题?
要用 MYRIAD 推断 IR, 您可以为此目的使用 OpenVINO official Samples。 在 Myriad 上使用 -d MYRIAD 参数 运行 它。
别忘了安装插件。
这似乎是同一个问题Github thread。
如果您阅读了我之前分享的文档,您会注意到 -h 参数会显示可以用它完成的所有操作 compile_tool。你会在那里得到答案。
运行 compile_tool: compile_tool.exe -m "model_location\efficientdet-d0-tf\FP16\efficientdet-d0-tf.xml" -d MYRIAD -o "location_you_want_to_store_the_blob\blob_efficientdet\blob_filename_must_have.blob “
Datasheet/Documentation现在是你最好的朋友,一定要阅读并尝试理解他们。
另外需要注意的是,与NCS2/MYRIAD/VPU相关的任何内容都必须是 FP16 格式。