Используйте ML Kit с NNAPI

Question

Я пытаюсь использовать новый SDK машинного обучения Google ML Kit на устройствах Android, работающих под управлением Android 9. С официального сайта:

ML Kit позволяет легко применять MLметоды в ваших приложениях, объединяя технологии ML, такие как Google Cloud Vision API, TensorFlow Lite и API нейронных сетей Android, в одном SDK.Если вам нужна мощь облачной обработки, возможности в реальном времени оптимизированных для мобильных устройств моделей или гибкость пользовательских моделей TensorFlow Lite, ML Kit делает это возможным с помощью всего лишь нескольких строк кода.

Я думаю, это означает, что на устройстве с Android как минимум 8.1 (согласно документации nnapi) SDK может использовать NNAPI.Но когда я запускаю то же самое приложение на устройстве с Android 7.1 (где nnapi не поддерживается), я получаю ту же производительность устройства, которое использует Android 9 (и теоретически NNAPI).Как я могу использовать ML Kit с NNAPI?Я делаю что-то не так?Ссылка на документацию mlkit: https://firebase.google.com/docs/ml-kit/

Answer 1

Согласно этому документу за октябрь 2018 года: Тест производительности AI: запуск глубоких нейронных сетей на смартфонах Android , NNAPI по умолчанию использует путь ЦП, когда нет конкретного оборудования и / или отсутствуют драйверы.В конце статьи отмечается, что у ряда устройств есть проблемы с реализацией.

Поскольку в число авторов статьи входят представители Qualcomm, ARM, Huawei, MediaTek и ETH Zurich, возможно, это наиболее полный обзорсостояние машинного обучения на Android.

В январе 2019 года Google анонсировал TensorFlow Lite с ускорением графического процессора в предварительном просмотре для разработчиков , который решит некоторые проблемы, поднятые в статье.