AssertionError: Не удалось вычислить выходной тензор при использовании multi_gpu_model () в Keras - PullRequest
Новая
       12

AssertionError: Не удалось вычислить выходной тензор при использовании multi_gpu_model () в Keras

1 голос
/ 14 марта 2019

У меня есть 2 подмодели Keras (model_1, model_2), из которых я формирую свои полные model, используя keras.models.Model(), логически складывая их в "серии". Под этим я подразумеваю, что model_2 принимает вывод model_1 плюс дополнительный входной тензор, а вывод model_2 является выводом моего полного model. Полный model создан успешно , и я также могу использовать compile/train/predict.

Однако я хочу распараллелить обучение model, запустив его на 2 графических процессорах, поэтому я использую multi_gpu_model(), который завершается ошибкой: 

AssertionError: Could not compute output Tensor("model_2/Dense_Decoder/truediv:0", shape=(?, 33, 22), dtype=float32)

Я попытался распараллелить две подмодели по отдельности, используя multi_gpu_model(model_1, gpus=2) и multi_gpu_model(model_1, gpus=2), но обе успешно . Проблема появляется только с полной моделью.

Я использую Tensorflow 1.12.0 и Keras 2.2.4 . Фрагмент, демонстрирующий проблему (по крайней мере, на моей машине): 

from keras.layers import Input, Dense,TimeDistributed, BatchNormalization
from keras.layers import CuDNNLSTM as LSTM
from keras.models import Model
from keras.utils import multi_gpu_model


dec_layers = 2
codelayer_dim = 11
bn_momentum = 0.9
lstm_dim = 128
td_dense_dim = 0
output_dims = 22
dec_input_shape = [33, 44]


# MODEL 1
latent_input = Input(shape=(codelayer_dim,), name="Latent_Input")

# Initialize list of state tensors for the decoder
decoder_state_list = []

for dec_layer in range(dec_layers):
    # The tensors for the initial states of the decoder
    name = "Dense_h_" + str(dec_layer)
    h_decoder = Dense(lstm_dim, activation="relu", name=name)(latent_input)

    name = "BN_h_" + str(dec_layer)
    decoder_state_list.append(BatchNormalization(momentum=bn_momentum, name=name)(h_decoder))

    name = "Dense_c_" + str(dec_layer)
    c_decoder = Dense(lstm_dim, activation="relu", name=name)(latent_input)

    name = "BN_c_" + str(dec_layer)
    decoder_state_list.append(BatchNormalization(momentum=bn_momentum, name=name)(c_decoder))

# Define model_1
model_1 = Model(latent_input, decoder_state_list)


# MODEL 2
inputs = []

decoder_inputs = Input(shape=dec_input_shape, name="Decoder_Inputs")
inputs.append(decoder_inputs)

xo = decoder_inputs

for dec_layer in range(dec_layers):
    name = "Decoder_State_h_" + str(dec_layer)
    state_h = Input(shape=[lstm_dim], name=name)
    inputs.append(state_h)

    name = "Decoder_State_c_" + str(dec_layer)
    state_c = Input(shape=[lstm_dim], name=name)
    inputs.append(state_c)

    # RNN layer
    decoder_lstm = LSTM(lstm_dim,
                   return_sequences=True,
                   name="Decoder_LSTM_" + str(dec_layer))

    xo = decoder_lstm(xo, initial_state=[state_h, state_c])
    xo = BatchNormalization(momentum=bn_momentum, name="BN_Decoder_" + str(dec_layer))(xo)
    if td_dense_dim > 0: # Squeeze LSTM interconnections using Dense layers
        xo = TimeDistributed(Dense(td_dense_dim), name="Time_Distributed_" + str(dec_layer))(xo)

# Final Dense layer to return probabilities
outputs = Dense(output_dims, activation='softmax', name="Dense_Decoder")(xo)

# Define model_2
model_2 = Model(inputs=inputs, outputs=[outputs])


# FULL MODEL
latent_input = Input(shape=(codelayer_dim,), name="Latent_Input")
decoder_inputs = Input(shape=dec_input_shape, name="Decoder_Inputs")

# Stack the two models
# Propagate tensors through 1st model
x = model_1(latent_input)
# Insert decoder_inputs as the first input of the 2nd model
x.insert(0, decoder_inputs)
# Propagate tensors through 2nd model
x = model_2(x)

# Define full model
model = Model(inputs=[latent_input, decoder_inputs], outputs=[x])

# Parallelize the model
parallel_model = multi_gpu_model(model, gpus=2)
parallel_model.summary()

Большое спасибо за любую помощь / советы.

1 Ответ

0 голосов
/ 15 марта 2019

Я нашел решение своей проблемы, которую я не знаю, как обосновать.

Проблема вызвана x.insert(0, decoder_inputs), который я заменил на x = [decoder_inputs] + x. Оба, похоже, приводят к одному и тому же списку тензоров, однако multi_gpu_model жалуется в первом случае.

...