Почему моя точность проверки так сильно варьируется?

Question

У меня есть почти 600 тысяч строк данных с 26 функциями. Обучение нейронной сети для классификации и точности на наборе валидации варьируется от 99 до 25. В некоторых эпохах оно достигает 99, а в самой следующей эпохе иногда падает до 25. Что может быть возможной причиной этого.

Answer 1

Даже если ваш ответ очень широкий, это может вам помочь. Я нашел хороший ответ на StackExchange.

Посмотрите этот ответ, я думаю, что это может произойти, потому что некоторые части точек данных проверки просто классифицированы случайным образом. Наличие 26 различных функций может быть большим недостатком -> классификатор может быть не в состоянии найти шаблоны, потому что некоторые функции просто шумные, недостаточно точные или даже противодействуют вашей цели, что заканчивается случайной классификацией.

Другая возможная проблема - ваша скорость обучения. Если оно слишком низкое, вы можете пропустить хорошие места на ландшафте потерь. И поэтому попадайте в хорошие или плохие места в зависимости от вашей удачи.

Мое предложение состоит в том, чтобы провести некоторую науку о данных, чтобы найти особенности, которые оказывают наибольшее влияние на результат. Посмотрите эту среднюю статью, чтобы найти хорошие методы. И если это ни к чему не приведет, попробуйте некоторые методы регуляризации и выберите правильную скорость обучения.

И если ничего не работает, дайте нам более полное представление о вашем наборе данных и подробностях вашего обучения.