Если я правильно понимаю, нормализация партии нормализует значения активации на каждом слое.Например, мы рассчитываем среднее значение и активацию нейрона 4 в слое 6 для всех тренировочных образов в партии.Затем, когда мы доберемся до значения активации нейрона 4 в слое 6, мы сможем нормализоваться.Если это правильно, как я должен нормализовать мои тестовые данные, поступающие вперед?Мои тестовые данные, конечно, не будут поступать партиями, но все равно будут проходить через уровни нормализации партии, конечно, я что-то не так понимаю.
Но как мы можем знать, что нужно заранее нормализовать активации?Означает ли это, что мы должны передавать каждое наблюдение за партией через нейронную сеть параллельно?Таким образом, мы вычисляем активацию на 2-м слое для всех наблюдений партии, нормализуем, затем выполняем следующие слои, затем следующий, все синхронизировано?