5 эпоха слишком рано для модели сходиться? - PullRequest
0 голосов
/ 02 апреля 2020

Я пытаюсь построить модель CNN, у меня около 44 000 изображений с 6 классами, размер изображения 99X99. Сначала я попробовал ResNet10 с использованием оптимизатора SGD, я установил его на 30 эпох с темпом обучения 0,001, и лучшая модель была получена в 22 эпохах, но точность для последних двух классов была не очень хорошей, затем попробовал U- Net и добавил Autrous Spacial Pyramid Pooling в качестве среднего уровня и использовал оптимизатор ADAM и установил его на 30 эпох с темпом обучения 0,001, и получил лучшую модель на 5 эпохах, и точность хороша, так что я хочу знать, что 5 эпох слишком рано для модель, чтобы сходиться, я должен полагаться на эту модель?

1 Ответ

1 голос
/ 03 апреля 2020

Хорошо, оптимизатор ADAM имеет тенденцию сходиться быстрее, делая обучение быстрым, но у него есть свои подводные камни https://shaoanlu.wordpress.com/2017/05/29/sgd-all-which-one-is-the-best-optimizer-dogs-vs-cats-toy-experiment/ посмотрите этот блог, здесь они описывают, что SGD работает лучше, чем ADAM

...