Можете ли вы использовать tf.stop_gradient с моделью keras? - PullRequest
0 голосов
/ 08 января 2019

Я хочу остановить вычисление градиента моей модели керас для определенных весов. Потому что я не хочу тренировать эти веса. Как я могу использовать tf.stop_gradient, поскольку мой ввод - это список тензоров (model.get_weights), а не тензор, как требуется.

Это просто игрушечный пример.

import tensorflow as tf
import numpy as np

def entry_stop_gradients(target, mask):
    mask_h = tf.abs(mask-1)
    return tf.stop_gradient(mask_h * target) + mask * target

mask = np.array([1., 0, 1, 1, 0, 0, 1, 1, 0, 1])
mask_h = np.abs(mask-1)

emb = tf.constant(np.ones([10, 5]))

matrix = entry_stop_gradients(emb, tf.expand_dims(mask,1))

parm = np.random.randn(5, 1)
t_parm = tf.constant(parm)

loss = tf.reduce_sum(tf.matmul(matrix, t_parm))
grad1 = tf.gradients(loss, emb)
grad2 = tf.gradients(loss, matrix)

with tf.Session() as sess:
    print sess.run(loss)
    print sess.run([grad1, grad2])

Я хотел бы иметь градиентную матрицу, такую ​​как grad1. Для этого вида модели:

model = tf.keras.Sequential([
  tf.keras.layers.Dense(2, activation=tf.sigmoid, input_shape=(2,)),
  tf.keras.layers.Dense(2, activation=tf.sigmoid)
])

И эта маска матрицы:

 mask=[np.array([[0, 1],[1,1]]),np.array([1,1]),np.array([[1,1],[1, 1]]),np.array([1,1])]
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...