Тензоропотерирующий порция медленного вывода - PullRequest
0 голосов
/ 08 ноября 2019

Простите, как решить проблему медленной скорости?

shape : (1, 32, 387, 1)

время данных: 0.005219221115112305

время публикации: 0.24771547317504883

время окончания: 0.2498164176940918

форма: (2, 32, 387, 1)

время данных: 0.0056378841400146484

время публикации: 0.4651315212249756

время окончания: 0,4693586826324463


запуск докера --runtime = nvidia -it --rm -p 8501: 8501

-v "$ (pwd) / densenet_ctc: / models / docker_test "

-e MODEL_NAME = docker_test тензор потока / обслуживание: latest-gpu

- tennorflow_intra_op_parallelism = 8

--ensorflow_inter_op_parallelism = 8

- enable_batching = true

- batching_parameters_file = / models / docker_test / batching_parameters.conf


num_batch_threads {значение: 4}

batch_timeout_micros {значение:2000}

max_batch_size {значение: 48}

max_enqueued_batches {значение: 48}


GPU: 1080Ti

Спасибо.

...