Лучше ли индивидуально нормализовать все входы для нейронной сети?

Question

Я сейчас работаю над нейронной сетью с Keras, использующей TensorFlow в качестве бэкэнда, и моя модель использует 5 входов, все нормированы от 0 до 1. Единицы входных сигналов варьируются от м / с до метров до м / с. / с. Так, например, один вход может варьироваться от 0 м / с до 30 м / с, тогда как другой вход может варьироваться от 5 м до 200 м в наборе обучающих данных.

Лучше ли индивидуально и независимо нормализовать все входы, чтобы у меня были разные шкалы для каждого устройства / входа? Или нормализация всех входных данных в одну шкалу (отображение 0–200 в 0–1 для приведенного выше примера) будет лучше для точности?

Answer 1

Нормализуйте индивидуально каждый вход. Потому что, если вы все нормализуете, разделив 200, некоторые входы будут влиять на вашу сеть меньше, чем другие. Если один вход изменяется между 0-30, после деления на 200 вы получаете шкалу 0-0,15, а масштаб для ввода, который варьируется от 0 до 200, будет 0-1 после деления. Таким образом, на входе 0-30 будет меньше цифр, и вы сообщаете своей сети, что вход не так важен, как ввод с 0-200.