У меня есть образ докера TF-Serving, скомпилированный с поддержкой графического процессора, и нет проблем с загрузкой моей модели в видеопамять и обслуживанием ее через REST API TensorFlow, но в настоящее время я хочу знать, как отключить поддержку графического процессорапри обслуживании модели, что означает, что с тем же образом докера TF-Serving, поддерживаемым графическим процессором, я хочу, чтобы моя модель загружалась только в оперативную память моего сервера (не видеопамять на карте Nvidia), и позволяю TF-Serving использовать CPUтолько это возможно?Например, установив некоторые переменные ENV при запуске контейнера?
Большое вам спасибо!
Я хочу этого, потому что объем ОЗУ моего сервера достаточно велик, а объем памяти карты Nvidia по сравнению с ним мал, и в настоящее времяСкорость вывода не является моей первой проблемой.
Ожидаемый результат: при запуске контейнера TF-Serving моя модель будет загружена в оперативную память сервера (но не в память карты Nvidia), и процесс вычисления обслуживания будет использоватьТолько процессор.