Предлагаете некоторые полезные методы, чтобы уменьшить размер архитектуры CNN? - PullRequest
0 голосов
/ 09 мая 2018

Контекст: я собираюсь начать обучение CNN для классификации набора данных. Этот CNN должен быть развернут для реального приложения. Таким образом, прямое распространение через этот CNN должно быть быстрым. Большинство прочитанных мной архитектур CNN не могут работать без графического процессора, и для их развертывания требуется много дорогостоящих ресурсов.

Вопрос: Теперь я знаю одну конкретную технику, которая весьма полезна для уменьшения размера архитектуры CNN: уменьшить размер изображения с помощью кубической интерполяции (кубическая интерполяция помогает улучшить некоторые функции изображения, такие как края). Это помогает уменьшить количество слоев свертки, а также размер фильтра, тем самым значительно уменьшая общие параметры в CNN. Я хотел знать, есть ли другие методы, которые могут сделать CNN меньше, чтобы его можно было реально развернуть.

1 Ответ

0 голосов
/ 09 мая 2018

Методы бинаризации - это эффективные алгоритмы, которые позволяют ограничить как параметры, так и активацию сети, чтобы иметь двоичные значения. Очевидно, что потеря точности может немного ухудшить конечные характеристики, но двоичное представление значительно снижает требования к ресурсам сети.

Например, вы можете взглянуть на эти работы:

который выпустил свой код.

...