вы можете использовать tf.device('/gpu:id') для указания устройства, отличного от используемого по умолчанию.
Однако, если вы запускаете несколько программ TensorFlow на одном компьютере, рекомендуется установить переменную среды CUDA_VISIBLE_DEVICESвыставлять разные графические процессоры перед запуском процессов.