Как рассчитать градиенты от веса некоторых специальных слоев? - PullRequest
Новая
       11

Как рассчитать градиенты от веса некоторых специальных слоев?

1 голос
/ 27 марта 2019

TensorFlow использует следующий метод вычисления градиентов (https://www.tensorflow.org/tutorials/eager/custom_training_walkthrough)

def grad(model, inputs, targets):
  with tf.GradientTape() as tape:
    loss_value = loss(model, inputs, targets)
  return loss_value, tape.gradient(loss_value, model.trainable_variables)

модель использует все переменные в модели (model.trainable_variables) для вычисления градиентов. Если я хочу рассчитать градиенты по некоторымслои веса и смещения без изменения других весов, как это сделать?

...