Как создать сеанс Tensorflow с графическим процессором nvlink

Question

Я пытаюсь выполнить вывод с Tensorflow.У меня есть 2 Quadro GV100, подключенных через nvlink, и другой графический процессор для отображения на моем рабочем столе.

Когда я создаю объект SessionOptions, мне нужно вызвать следующее, чтобы установить, какой графический процессор использовать:

auto options = SessionOptions();
options.config.mutable_gpu_options()->set_visible_device_list(gpuToUse);

Похоже, что Tensorflow не видит GPU с nvlink как единое целое, если бы я создал сеанс, указав только 1 GPU, что, по-видимому, сводит на нет преимущества nvlink и второго GPU.

Мой вопрос в том, может ли Tensorflow воспользоваться преимуществами настройки nvlink dual GPU?

Я использую Tensorflow v1.7.Большое спасибо за вашу помощь!

Answer 1

Короткий ответ - да, Tensorflow может использовать преимущества технологии NVLINK.Но, как упомянуто здесь , большинство алгоритмов получают небольшую выгоду от этой технологии.

Существуют случаи использования, когда мост NVLINK может оказывать значительное влияние.Например, в некоторых приложениях машинного обучения параллелизм может быть достигнут за счет распределения данных между устройствами, при условии, что код графического процессора оптимизирован для минимизации обмена данными.