Как мне лучше обработать мои данные и установить параметры для моей нейронной сети?

Question

Когда я запускаю свой NN, единственный способ провести какое-либо обучение - это разделить X на 1000. Сеть также должна быть обучена менее 70000 раз с коэффициентом обучения 0,03, и если эти значения больше, NN ухудшается,Я думаю, что это из-за плохой обработки данных и, возможно, отсутствия предвзятости, но я действительно не знаю. код в Google Colab

Answer 1

Короче говоря: все проблемы, которые вы упомянули, и даже больше.

• Масштабирование необходимо, обычно до 0 означает и дисперсия 1 .В противном случае вы быстро насытите скрытые единицы, их градиенты будут близки к нулю, и (почти) обучение не будет возможным.
• Смещение является обязательным для такого ANN.Это как смещение для подгонки линейной функции.Если вы уроните его, получить хорошую форму будет очень сложно.
• Похоже, вы проверяете точность своих тренировочных данных.
• У вас очень мало тренировочных образцов.
• Сигмоиддоказано, что плохой выбор.Используйте ReLU и проверьте, например, здесь для объяснения.

Кроме того, я бы рекомендовал потратить некоторое время на изучение Python, прежде чем углубляться в это.Для начала, избегайте использования global, это может привести к непредвиденному поведению, если вы не будете осторожны.