Почему у меня так много всплесков на графике валидационных потерь? - PullRequest
0 голосов
/ 20 июня 2020

enter image description here

На графике выше показаны потери (обучения и) проверки для 500 эпох на модели ResNet32 классификации изображений. Максимальное значение потерь пересекло 2e13, ниже приведены несколько огромных потерь при проверке, которые я получил:

  • val_loss: 20302633369600.0000
  • val_loss: 6906122862592.0000
  • val_loss: 1525164146688.0000
  • val_loss: 350141022208.0000
  • val_loss: 78076706816.0000
  • val_loss: 732259968.0000

Точность проверки модели оставалась колеблющейся на протяжении эпох. enter image description here

F1-Score для набора для проверки тоже сильно колебался, но в конце стабилизировался. enter image description here

У меня есть 5000 изображений, разделенных на 3k, 1k и 1k, обучающие, проверочные и тестовые изображения, имеющие 8 классов.

Я использовал sparse_categorical_crossentropy loss и оптимизатор adam со значением по умолчанию lr.

Размер пакета для обучения, проверки и тестирования был установлен на 32. (Увеличение может стабилизировать точность проверки.)

Ниже приведены (вполне удовлетворительные) количественные результаты, которые я получил на тестовых данных. enter image description here

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...