Керас: Невозможно использовать пользовательскую функцию потерь в моей модели

Question

Я создаю языковую модель с помощью Keras, и я хотел бы использовать недоумение в качестве функции потерь. Однако, когда я попытался скомпилировать свою модель с помощью функции потерь, я получил ошибку значения, говорящую, что функция потерь неизвестна.

Моя функция потерь выглядит следующим образом:

def perplexity_loss(y_true, y_pred):
    """
    The perplexity metric. Why isn't this part of Keras yet?!
    https://stackoverflow.com/questions/41881308/how-to-calculate-perplexity-of-rnn-in-tensorflow
    https://github.com/keras-team/keras/issues/8267
    """
    cross_entropy = keras.losses.SparseCategoricalCrossentropy(y_true, y_pred)
    perplexity = tf.keras.backend.exp(cross_entropy)
    return perplexity

И вот как я запускаю свою модель:

# define model
model = Sequential()
model.add(Embedding(vocab_size, 500, input_length=max_length-1))
model.add(LSTM(750))
model.add(Dense(vocab_size, activation='softmax'))
# compile network
model.compile(loss='perplexity_loss', optimizer='adam', metrics=['accuracy'])
# fit network
model.fit(X, y, epochs=150, verbose=2)

Я получаю следующую ошибку:

ValueError: Unknown loss function:perplexity

Answer 1

Ошибка вызвана тем, что вместо функции вы передаете строку ('perplexity_loss'). Следующее должно помочь:

model.compile(loss=perplexity_loss, optimizer='adam', metrics=['accuracy'])

---

Обратите внимание, что когда вы захотите снова загрузить модель, вам придется использовать:

from keras.models import load_model

model = load_model('my_model.h5', custom_objects={'perplexity_loss': perplexity_loss})