Я пытаюсь вычислить градиент потерь по отношению к обучаемым весам сети, используя Tensorflow.js, чтобы применить эти градиенты к весу моей сети.В python это легко сделать с помощью функций tf.gradients (), которая принимает два минимальных ввода, представляющих dx и dy.Однако я не могу воспроизвести поведение в Tensorflow.js.Я не уверен, что мое понимание градиента потери по отношению к весам неверно или если мой код содержит ошибки.
Я потратил некоторое время на анализ кода ядра пакета tfjs-node, чтобы понять, какэто делается, когда мы вызываем функцию tf.model.fit (), но пока без особого успеха.
let model = build_model(); //Two stacked dense layers followed by two parallel dense layers for the output
let loss = compute_loss(...); //This function returns a tf.Tensor of shape [1] containing the mean loss for the batch.
const f = () => loss;
const grad = tf.variableGrads(f);
grad(model.getWeights());
Функция model.getWeights () возвращает массив tf.variable (), поэтому я предположил, что функция будет вычислять dL / dW для каждого слоя, который я мог бы применить позже к весам моей сети,однако, это не совсем так, поскольку я получаю эту ошибку:
Error: Cannot compute gradient of y=f(x) with respect to x. Make sure that the f you passed encloses all operations that lead from x to y.
Я не совсем понимаю, что означает эта ошибка.Как я должен вычислить градиент (аналог tf.gradients () в Python) потери, используя Tensorflow.js тогда?
Редактировать: Это функция, вычисляющая потери:
function compute_loss(done, new_state, memory, agent, gamma=0.99) {
let reward_sum = 0.;
if(done) {
reward_sum = 0.;
} else {
reward_sum = agent.call(tf.oneHot(new_state, 12).reshape([1, 9, 12]))
.values.flatten().get(0);
}
let discounted_rewards = [];
let memory_reward_rev = memory.rewards;
for(let reward of memory_reward_rev.reverse()) {
reward_sum = reward + gamma * reward_sum;
discounted_rewards.push(reward_sum);
}
discounted_rewards.reverse();
let onehot_states = [];
for(let state of memory.states) {
onehot_states.push(tf.oneHot(state, 12));
}
let init_onehot = onehot_states[0];
for(let i=1; i<onehot_states.length;i++) {
init_onehot = init_onehot.concat(onehot_states[i]);
}
let log_val = agent.call(
init_onehot.reshape([memory.states.length, 9, 12])
);
let disc_reward_tensor = tf.tensor(discounted_rewards);
let advantage = disc_reward_tensor.reshapeAs(log_val.values).sub(log_val.values);
let value_loss = advantage.square();
log_val.values.print();
let policy = tf.softmax(log_val.logits);
let logits_cpy = log_val.logits.clone();
let entropy = policy.mul(logits_cpy.mul(tf.scalar(-1)));
entropy = entropy.sum();
let memory_actions = [];
for(let i=0; i< memory.actions.length; i++) {
memory_actions.push(new Array(2000).fill(0));
memory_actions[i][memory.actions[i]] = 1;
}
memory_actions = tf.tensor(memory_actions);
let policy_loss = tf.losses.softmaxCrossEntropy(memory_actions.reshape([memory.actions.length, 2000]), log_val.logits);
let value_loss_copy = value_loss.clone();
let entropy_mul = (entropy.mul(tf.scalar(0.01))).mul(tf.scalar(-1));
let total_loss_1 = value_loss_copy.mul(tf.scalar(0.5, dtype='float32'));
let total_loss_2 = total_loss_1.add(policy_loss);
let total_loss = total_loss_2.add(entropy_mul);
total_loss.print();
return total_loss.mean();
}
РЕДАКТИРОВАТЬ 2:
Мне удалось использовать compute_loss в качестве функции потерь, указанной в model.compile ().Но тогда требуется, чтобы он занимал только два ввода (предсказания, метки), поэтому для меня это не работает, так как я хочу ввести несколько параметров.
Я полностью потерян по этому вопросу.