Почему keras model.predict () очень медленно работает с Intel MKL на процессоре? - PullRequest
0 голосов
/ 01 марта 2020

У меня есть программа python, которая использует keras и tenorflow (1.15) на Windows 10. Проблема заключается в том, что при работе на CPU прогнозирование построенной мной модели сверточной сети по умолчанию выполняется очень медленно ( 0,3-0,4 сек c) - несмотря на то, что размер ввода очень мал (4, 3, 19, 19).

Когда я проверил процесс в мониторе ресурсов Windows, я увидел, что python .exe использует огромное количество потоков (~ 422). У меня относительно хороший процессор с 24 ядрами. Немного погуглив, я установил переменную окружения OMP_NUM_THREADS на 1, чтобы посмотреть, что происходит, поэтому сначала установите OMP_NUM_THREADS = 1 , а затем запустите python. Теперь время прогноза сократилось до 0,03 сек c. Так что это намного быстрее.

У вас есть идеи, почему это происходит? Можно ли сделать это быстрее?

Спасибо.

...