Альтернативы Nvidia nccl для тензорного потока 2: модуль 'тензорный поток' не имеет атрибута 'contrib' - PullRequest
0 голосов
/ 11 марта 2020

Я обновлял какой-то код, который у меня был, используя tenorflow 1, чтобы tenorflow 2, и я столкнулся с некоторыми проблемами. А именно, в моем коде v1 я пытался получить сумму всех сокращений по тензорам, используя nccl, поэтому у меня было что-то вроде этого:

g = [dev_grads[dev][var_idx][0] for dev in devices]
g = tf.contrib.nccl.all_sum(g)

Проблема в том, что я получаю следующую ошибку module 'tensorflow' has no attribute 'contrib'. Похоже, что tf.contrib.nccl не распространяется с Tensorflow 2. Какие есть альтернативы, чтобы я мог добиться того же в Tensorflow 2?

...