Запуск сценария вывода модели Tensorflow на нескольких графических процессорах

Question

Я пытаюсь запустить скоринг модели (граф вывода) из API-интерфейса обнаружения объекта tenorflow, чтобы запустить его на нескольких графических процессорах, попытался указать номер графического процессора в основном, но он работает только на одном графическом процессоре. размещенный графический процессорснимок использования здесь

Используя тензор потока-gpu == 1.13.1, не могли бы вы указать мне, что мне здесь не хватает.

for i in range(2):
        with tf.device('/gpu:{}' . format(i)):
            tf_init()
            init = tf.global_variables_initializer
           with detection_graph.as_default():
              with tf.Session(config=tf.ConfigProto(log_device_placement=True)) as session:
                   call to #run_inference_multiple_images function

Answer 1

Ответы на на этот вопрос должны дать вам несколько вариантов решения этой проблемы.

Обычно TensorFlow занимает все видимые графические процессоры, если не указано иное. Поэтому, если вы еще не пробовали, вы можете просто удалить строку with tf.device (при условии, что у вас есть только два графических процессора), и TensorFlow должен использовать их оба.

В противном случае, я думаю, что самым простым является настройка средыпеременные с os.environ["CUDA_VISIBLE_DEVICES"] = "0,1".