Точность CNN против выбора потери

Question

Я построил два классификатора CNN, используя оптимизатор Адама. В одном из них я применил отсев (0,05), а во втором - без выпадения. Я получил указанные ниже значения точности и потерь для каждого случая, какой из них работает лучше? Я заметил, что оба они имеют сравнимую точность, но классификатор с отсевом имел лучшие и менее колебательные результаты потерь.

Ниже первое изображение для классификатора с включенным выпадением (0,5), а второе - без включенного выпадения

Answer 1

Добавленный отсев уменьшает эффект переобучения; по сути, это причина, по которой график потерь не колеблется так сильно, как в случае отсутствия отсева / добавления каких-либо других регуляризаций.

Даже если точность набора проверки может быть немного лучше (1-2 % процента больше) в случае модели без выпадения / регуляризации следует ожидать, что вторая модель (с включенным выпадением) будет лучше работать с невидимыми данными (набор тестов).

Следует выбрать модель отсева; Кроме того, вы можете попробовать поэкспериментировать с различными пороговыми значениями отсева, чтобы проверить производительность. Кроме того, было бы неплохо иметь тестовый набор, чтобы быстро проверить все ваши предположения.

Обратите внимание, что вы используете набор проверки в качестве набора тестов, но они имеют разные цели. То, что вы на самом деле показываете, - это потери / неточности при обучении-валидации, а не потеря / неточности в ходе тренировочного теста.