В настоящее время я использую tensorflow-1.14 и использую MultiWorkerMirroredStrategy на платформе искусственного интеллекта с трехмерной сверточной сетью.Поскольку обучение AI Platform официально не поддерживает 1.14, я добавляю tensorflow-1.14 в качестве зависимости, чтобы стратегия работала.Проблема заключается в том, что когда я пытаюсь использовать пакетную нормализацию, возникает проблема, с которой я сталкиваюсь при использовании групповой нормализации (из пакета contrib).
Должно ли MultiWorkerMirroredStrategy нормально работать на CMLEили я что-то упускаю?
def conv(
inputs, is_training, filters=32, kernel_size=(3, 3, 3), strides=(1, 1, 1),
padding='same', activation_fn='relu'):
""" Function for 3D Convolution. """
conv = tf.layers.conv3d(inputs, filters, kernel_size=kernel_size,
strides=strides, padding=padding)
bn = tf.layers.batch_normalization(conv, training=is_training)
if activation_fn == None:
out = bn
else:
out = tf.nn.relu6(bn)
return out
Ошибка:
InvalidArgumentError: From /job:chief/replica:0/task:0: Lower bound check fail for input 4 from node gradients/F9/e-3/batch_normalization_24/batchnorm/add_1_grad/Sum_1 to node scoped_allocator_concat_424_31 input bounds = [0x7fcae8cce500, 0x7fcae8cce600] backing_tensor bounds = [0x7fcae8f5fb00, 0x7fcae8fe0f88] [[{{node scoped_allocator_concat_424_31}}]]