Почему ошибка в моей нейронной сети сначала увеличивается, а потом не меняется?

Question

Я использую двухслойную нейронную сеть с 7 нейронами для скрытого слоя, чтобы предсказать диабет.Но согласно графику, который показывает мне Matlab, ошибка моей сети сначала увеличивается, а затем не меняется, в то время как, как я знаю, она должна сначала уменьшаться, а затем перестать изменяться.Возможен ли мой случай или моя сеть работает неправильно?

График ошибки

Answer 1

Кажется, что ошибка вашей модели начинает увеличиваться примерно после 50 эпох. Это может означать, что модель либо переизбрана, либо предоставленный вами набор данных слишком мал, чтобы модель могла себя обобщить. Вы можете следовать этим советам:

1. Используйте небольшие скорости обучения, такие как 0,001 или даже 0,0001.
2. Убедитесь, что у вас есть набор данных с довольно большим количеством выборок.
3. Используйте выпадающие слои. Они превосходны в большинстве случаев использования. Попробуйте сохранить уровень 0,3 или 0,4.
4. Кроме того, если вы чрезмерно тренируете модель, она будет превышать минимумы, и потери будут увеличиваться. Экспериментируйте с наблюдением, что до скольких эпох сеть работает хорошо. (В вашем случае это может быть 25 эпох)