将机器学习套件与 NNAPI 结合使用
Use ML Kit with NNAPI
我正在尝试在 运行 Android 9 的 Android 设备上使用新的 Google 机器学习 SDK,ML Kit。
来自官网:
ML Kit makes it easy to apply ML techniques in your apps by bringing
Google's ML technologies, such as the Google Cloud Vision API,
TensorFlow Lite, and the Android Neural Networks API together in a
single SDK. Whether you need the power of cloud-based processing, the
real-time capabilities of mobile-optimized on-device models, or the
flexibility of custom TensorFlow Lite models, ML Kit makes it possible
with just a few lines of code.
我认为这意味着在至少具有 Android 8.1 的设备上(根据 nnapi 的文档)SDK 可以使用 NNAPI。但是,当我 运行 在具有 Android 7.1(不支持 nnapi)的设备上使用相同的应用程序时,我获得了与使用 Android 9 的设备相同的性能(理论上 NNAPI ).我如何将 ML Kit 与 NNAPI 结合使用?我做错了什么?
Link 到 mlkit 的文档:https://firebase.google.com/docs/ml-kit/
根据这篇 2018 年 10 月的论文:AI 基准测试:运行 深度神经网络
在 Android 智能手机 上,当没有特定硬件 and/or 没有驱动程序可用时,NNAPI 默认为 CPU 路径。在文末,它指出许多设备存在实施问题。
由于该论文的作者包括高通、ARM、华为、联发科和苏黎世联邦理工学院的代表,因此它可能是对 Android 机器学习状态最全面的概述。
2019 年 1 月 Google 宣布 TensorFlow Lite with GPU acceleration in developer preview 将解决论文中提出的一些问题。
2020 年 7 月更新:
研究人员的网站位于:http://ai-benchmark.com/
并于 2019 年 10 月更新了他们的论文:
AI Benchmark: All About Deep Learning on Smartphones in 2019
我正在尝试在 运行 Android 9 的 Android 设备上使用新的 Google 机器学习 SDK,ML Kit。 来自官网:
ML Kit makes it easy to apply ML techniques in your apps by bringing Google's ML technologies, such as the Google Cloud Vision API, TensorFlow Lite, and the Android Neural Networks API together in a single SDK. Whether you need the power of cloud-based processing, the real-time capabilities of mobile-optimized on-device models, or the flexibility of custom TensorFlow Lite models, ML Kit makes it possible with just a few lines of code.
我认为这意味着在至少具有 Android 8.1 的设备上(根据 nnapi 的文档)SDK 可以使用 NNAPI。但是,当我 运行 在具有 Android 7.1(不支持 nnapi)的设备上使用相同的应用程序时,我获得了与使用 Android 9 的设备相同的性能(理论上 NNAPI ).我如何将 ML Kit 与 NNAPI 结合使用?我做错了什么? Link 到 mlkit 的文档:https://firebase.google.com/docs/ml-kit/
根据这篇 2018 年 10 月的论文:AI 基准测试:运行 深度神经网络 在 Android 智能手机 上,当没有特定硬件 and/or 没有驱动程序可用时,NNAPI 默认为 CPU 路径。在文末,它指出许多设备存在实施问题。
由于该论文的作者包括高通、ARM、华为、联发科和苏黎世联邦理工学院的代表,因此它可能是对 Android 机器学习状态最全面的概述。
2019 年 1 月 Google 宣布 TensorFlow Lite with GPU acceleration in developer preview 将解决论文中提出的一些问题。
2020 年 7 月更新:
研究人员的网站位于:http://ai-benchmark.com/
并于 2019 年 10 月更新了他们的论文: AI Benchmark: All About Deep Learning on Smartphones in 2019