Почему мои потери при проверке ниже, чем потери при тренировках?

Question

Почему моя потеря при проверке ниже моей потери при обучении? Интересно, приемлемы ли эти кривые? Я не знаю, истинны ли эти кривые или нет.

Answer 1

Этот случай редко встречается в реальном наборе данных, однако это возможно, например, если набор данных проверки и обучение имеют примерно одинаковое распределение, а набор обучения шумит больше, чем набор данных проверки, в этом случае, обучение, которое вы показываете, возможно.

Answer 2

Общая грубая причина такого сценария в том, что ваш тренировочный набор несколько сложнее по сравнению с набором валидации.

Учитывая, что вы использовали deep-learning в качестве тега, я бы даже рассмотрел эффект отсева слоев регуляризации. Для теоретического обсуждения см. этот пост .