В настоящее время я изучаю распространенный Tensorflow. В обычном случае очень легко получить доступ к градиентам и управлять ими с помощью встроенных функций.
Однако в распределенной настройке, как можно управлять градиентами до и после агрегирования?