Я немного запутался в отношении нормализации слоя и экземпляра. Насколько я понимаю, нормализация слоя будет учитывать среднее значение и дисперсию по всем признакам для каждого конкретного c наблюдения в пакете. Поэтому, если у меня есть 10 наблюдений в партии, у меня будет 10 различных средств и отклонений для нормализации каждого наблюдения.
Мой вопрос: что произойдет, если я теперь рассмотрю несколько каналов (как в сверточном слое, который имеет глубина 5 (количество карт объектов)), будет ли у меня тогда 10 x 5 параметров нормализации (среднее + дисперсия), так как я добавил измерения для каналов?
Наконец, когда дело доходит до нормализации экземпляра, буду ли я теперь нормализовать независимо от каналов и иметь 10 различных средств и отклонений, и если у меня не было никакого канала. Таким образом, каждый канал будет рассматриваться только как дополнительная функция.
Я взял мою информацию отсюда: https://zhangtemplar.github.io/normalization/
Большое спасибо!