Потеря Хемминга подсчитывает количество меток, для которых наше прогнозирование неверно, нормализуя его.
Стандартная реализация HammingLoss как метрикаосновывается на подсчете неправильных предсказаний с чем-то вроде этого: (на TF)
count_non_zero = tf.math.count_nonzero(actuals - predictions)
return tf.reduce_mean(count_non_zero / actuals.get_shape()[-1])
Реализация потери Хемминга как фактической потери требует, чтобы она была дифференцируемой, что не в данном случае из-за tf.math.count_nonzero. Альтернативным (и приближенным) методом будет подсчет ненулевых меток таким образом, но, к несчастью, NN, похоже, не улучшится.
def hamming_loss(y_true, y_pred):
y_true = tf.convert_to_tensor(y_true, name="y_true")
y_pred = tf.convert_to_tensor(y_pred, name="y_pred")
diff = tf.cast(tf.math.abs(y_true - y_pred), dtype=tf.float32)
#Counting non-zeros in a differentiable way
epsilon = K.epsilon()
nonzero = tf.reduce_mean(tf.math.abs( diff / (tf.math.abs(diff) + epsilon)))
return tf.reduce_mean(nonzero / K.int_shape(y_pred)[-1])
В заключение, какова правильная реализация потери Хемминга дляTensorFlow?
[. 1] https://hal.archives -ouvertes.fr / hal-01044994 / document