Инициализация веса для комплексной глубокой нейронной сети - PullRequest
0 голосов
/ 10 июля 2020

Я новичок как в глубоком обучении, так и в тензорном потоке. Я работаю над сетью глубокого обучения, которая принимает на вход комплексные числа. Прямо сейчас у меня есть два входных канала для раздельной обработки реальной и мнимой части входа. Когда я пытаюсь инициализировать веса с помощью встроенной функции тензорного потока, нужно ли инициализировать веса для двух каналов отдельно? Или я могу просто определить одну функцию для обоих каналов? Я использую эту ссылку (https://www.tensorflow.org/tutorials/generative/pix2pix?hl=ru) в качестве эталона для построения сложной сети DL.

В этом руководстве есть три входных канала для значений RGB входного изображения, и они просто используют единственная функция для инициализации веса. Будет ли он работать таким же образом, если моя сеть имеет 2 канала и обрабатывает реальную часть ввода в одном канале и мнимую часть в другом? Я также собираюсь добавить фрагмент кода для функции для одного уровня в сети. Спасибо.

def downsample(filters, size, apply_batchnorm=True):
  initializer = tf.random_normal_initializer(0., 0.02)

  result = tf.keras.Sequential()
  result.add(tf.keras.layers.Conv2D(filters, size, strides=2, padding='same', kernel_initializer=initializer, use_bias=False))

  if apply_batchnorm:
    result.add(tf.keras.layers.BatchNormalization())

  result.add(tf.keras.layers.LeakyReLU())

  return result
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...