Возможно ли снижение точности при увеличении количества эпох?

Question

Я обучаю DNN в MATLAB, оптимизируя свою сеть, я наблюдаю снижение точности при увеличении эпох. Является ли это возможным? С другой стороны, значения потерь уменьшаются во время тренировки с увеличением эпох. Пожалуйста, проведите.

Answer 1

tldr; абсолютно.

Когда модель видит весь обучающий набор данных один раз (канал пересылается один раз), это обозначается как 1 эпоха.

На приведенном ниже графике показано общее поведение точности в зависимости от количества эпох . Обучение на большем количестве эпох может привести к низкой точности проверки, даже если потери будут продолжать уменьшаться (точность обучения будет высокой). Это называется переобучением. Количество эпох для обучения, а также гиперпараметр, требующий точной настройки.

введите описание изображения здесь

Answer 2

Абсолютно возможно:

1. Особенно, когда вы тренируетесь партиями
2. Когда ваша скорость обучения слишком высока