потеря проверки достоверно уменьшается в CNN, пригонке модели или переоснащении? - PullRequest
Новая
       99

потеря проверки достоверно уменьшается в CNN, пригонке модели или переоснащении?

0 голосов
/ 13 марта 2020

У меня проблема с моей моделью CNN.

У меня 89 оригинальных изображений глазного дна с 5 изображениями нормального класса и 84 изображения не нормального класса. Затем я увеличил нормальный класс с помощью OpenCV, поэтому у меня есть 85 изображений нормального класса и 84 ненормального класса.

Я тренировал его с Re sNet -50. и я получил: 

Train on 118 samples, validate on 51 samples
Epoch 1/200
118/118 [==============================] - 9s 80ms/sample - loss: 0.3268 - accuracy: 0.8475 - val_loss: 1260226.0000 - val_accuracy: 0.7549
Epoch 2/200
118/118 [==============================] - 1s 8ms/sample - loss: 0.2474 - accuracy: 0.8771 - val_loss: 114804.7059 - val_accuracy: 0.7549
Epoch 3/200
118/118 [==============================] - 1s 8ms/sample - loss: 0.2740 - accuracy: 0.8390 - val_loss: 6039848.1569 - val_accuracy: 0.7549
Epoch 4/200
118/118 [==============================] - 1s 8ms/sample - loss: 0.1889 - accuracy: 0.9110 - val_loss: 3247823.3725 - val_accuracy: 0.7549
.
.
.
Epoch 32/200
118/118 [==============================] - 1s 8ms/sample - loss: 7.9578e-04 - accuracy: 1.0000 - val_loss: 0.2045 - val_accuracy: 0.9314
Epoch 33/200
112/118 [===========================>..] - ETA: 0s - loss: 2.0889e-04 - accuracy: 1.0000

Epoch 34/200
112/118 [===========================>..] - ETA: 0s - loss: 0.0019 - accuracy: 1.0000
Epoch 00034: val_accuracy did not improve from 0.96078

Epoch 00034: ReduceLROnPlateau reducing learning rate to 1.5625000742147677e-05.
Restoring model weights from the end of the best epoch.
118/118 [==============================] - 1s 9ms/sample - loss: 0.0018 - accuracy: 1.0000 - val_loss: 0.1718 - val_accuracy: 0.9314
Epoch 00034: early stopping

Что вы думаете об этом? Я смущен, потому что в первую эпоху val_loss так высоко, а в последнюю эпоху val_loss низко. Это нормально? или моя модель переоснащается?

Если моя модель не так, что мне делать, чтобы получить лучшие результаты?

1 Ответ

0 голосов
/ 13 марта 2020

После длительного обучения нейронная сеть выучивает очень специфические c паттерны, которые приводят к уменьшению потери на тренировке и увеличению потери на валидацию. В таких случаях вы можете сказать, что ваша модель переоснащена.

В вашем случае я бы сказал, что ваша модель хорошо подходит.

Если ваша модель начинает переоснащаться, попробуйте уменьшить количество параметров. модели, которую нужно обучить или применить раннюю остановку.

...