MXNet CuDNN Управление автонастройкой

Question

Могу ли я точно контролировать, когда MXNet должен запускать тесты производительности?

У меня есть приложение MXNet, которое готовится к запуску.Он работает нормально, но имеет переменный размер пакета и заставляет MXNet часто выполнять автонастройку.

Несмотря на то, что размер пакета является переменным, он обычно равен 1. Я согласен с потерей производительности при больших размерах (это все же лучше, чем прерывать его все время для автонастройки).

Если я отключаю автонастройку с помощью export MXNET_CUDNN_AUTOTUNE_DEFAULT=0, сеть работает значительно медленнее.

Поэтому мой вопрос: есть ли способ запуститьавтонастройка только один раз, желательно на мой звонок?

Answer 1

В настоящее время нет способа запустить автонастройку только один раз.Когда автонастройка включена, MXNet будет запускать тесты производительности, чтобы найти лучший алгоритм для операторов Convolution / DeConvolution.Лучший алгоритм кэшируется с определенной формой ввода, формой вывода.Поэтому, если у вас одинаковая форма ввода / вывода, тесты производительности не должны запускаться повторно.Однако, если форма изменится, это приведет к повторному запуску алгоритма.