Я пытался тренировать модель на мультипроцессоре с tf-оценщиком и MirroredStrategy. И я обнаружил, что переменные модели заключены в переменные MirroredVariables, которые всегда синхронизируются между башнями.
Однако есть переменная, которая должна иметь разные значения для каждой башни на каждом этапе обучения. Как определить такую переменную? переменная с местонахождением T относится к (https://www.tensorflow.org/api_docs/python/tf/contrib/distribute/DistributionStrategy)