Я недавно имел дело с такой ситуацией, и я справился с тем, чтобы сохранить размер партии гибким. Например: если вы используете TensorFlow, определите заполнитель как [Нет, w, h, 3] (в случае изображения) и разработайте вашу модель. Вес не имеет никакого отношения к размерам партии. Таким образом, когда вы уменьшите размер вычислений по оси = 0, остальные изменения произойдут соответственно. По сути, не определяйте конкретный размер партии, сохраняйте его гибким.