Приложение Tensorflow lite android студия медицинской диагностики c с использованием классификации изображений - PullRequest
1 голос
/ 25 мая 2020

Проблема: я пытаюсь объединить https://github.com/obeshor/Plant-Diseases-Detector с https://github.com/pillarpond/image-segmenter-android

Первое приложение, Plant, позволяет обрабатывать отдельные изображения и модель уже работает на нем.

Второе приложение, приложение для сегментации изображений, имеет отличные функции сегментации изображений, позволяющие пользователям и исследователям понять, на что смотрит модель.

Из-за сложности приложения сегментации изображений я хочу объединить приложение Plant с приложением сегментации.

Проблема с приложением сегментации заключается в том, что мне нужно изменить приложение сегментации из непрерывного видео к отдельным изображениям и входным характеристикам модели. Я не знаю, есть ли простой способ сделать это.

Модель классификации медицинских изображений уже завершена и работает в приложении Plant.

Предполагаемый результат для приложения: входное изображение - медицинское изображение, а выход - изображение с позитивным регионы, выделенные общим положительным / отрицательным показателем с процентом достоверности.

Вопрос: есть ли у кого-нибудь ссылки на методы объединения этих двух приложений или руководств для создания нового. Я работал над этим последние пять месяцев, и у меня возникли проблемы с поиском области во втором коде для изменения входных характеристик модели, интеграции меток и изменения камеры с непрерывного на одиночные изображения.

Спасибо и надеюсь Я включил достаточно информации.

1 Ответ

0 голосов
/ 26 мая 2020

Предполагаемый результат для приложения: входное изображение представляет собой медицинское изображение, а выходное изображение - изображение с выделенными положительными областями с общим положительным / отрицательным показателем с доверительной вероятностью.

Похоже, когда вы говорите выделение положительных регионов, вы имеете в виду, что хотите выделить регион, показывающий конкретное заболевание, обнаруженное классификационной моделью. Если вы это имеете в виду, я не верю, что существует простой способ объединить эти две модели описанным вами способом, насколько мне известно.

Проблема с приложением сегментации мне нужно изменить приложение сегментации с непрерывного видео на отдельные изображения и характеристики ввода модели. Я не знаю, есть ли простой способ сделать это.

Переход от обработки видео в реальном времени к обработке одного изображения должен быть довольно тривиальным. Вторую часть, входные характеристики модели, было бы нетривиально изменить по ряду причин.

1) Модель сегментации изображения (Deeplab) ожидает изображения в качестве входных данных. Мы не можем внезапно изменить входной формат и надеяться, что он волшебным образом сработает.

2) Известно, что модели классификации изображений на основе CNN трудны для понимания людьми. Он просто дает вам ярлык и уверенность, но основан на всем изображении. Вывод не содержит никакой информации о том, какие области изображения больше всего повлияли на конкретную пару (метка, достоверность). Итак, если бы мы могли каким-то образом изменить модель сегментации для получения дополнительной информации, модель классификации изображений не дала бы такой полезной информации.

Вместо этого я бы предложил поискать некоторые исследовательские работы по этому topi c и посмотрите, сможете ли вы реализовать эти идеи. Мой быстрый поиск дал мне, например, эту статью . И должно быть гораздо больше работ по классификации / сегментации медицинских изображений, в которых у меня нет знаний в предметной области, чтобы помочь вам в дальнейшем.

...