Должен ли случайный шум, передаваемый GAN, оставаться постоянным?

Question

Я работаю над генерирующей состязательной сетью (GAN).На каждом этапе обучения я вызываю метод generate_noise, который возвращает тензор некоторого случайного шума.

# Generates noise of normal distribution
def generate_noise( shape : tuple ):
    noise = tf.random_normal( shape )
    return noise

Когда я вызываю этот метод, я получаю тензор случайного шума, который передаетсягенераторная сеть.Мой вопрос:

Если генератор получает случайные входные данные каждый раз (на каждом шаге), как он может оптимизировать себя для создания значимого изображения (вывода)?

Тогдая должен делать шум на каждом шаге постоянным.Это означает, что на каждом шаге пропускается только один тензор шума.

# Generates noise of normal distribution
noise = tf.random_normal( shape )
def generate_noise( ):
    return noise

Должен ли я сделать шум постоянным, чтобы генераторная сеть имела дело с одним входом и, следовательно, могла создать значимый выход?

Ссылаясь на множество видео и блогов на GAN.Я не мог найти, поддерживается ли шум постоянным или нет.Любая помощь приветствуется.

Answer 1

Нет, шум должен не быть постоянным во время тренировки.Для данного вектора скрытого шума GAN может генерировать только одно изображение.Если вы сохраняете постоянный шум, GAN может создавать только одно изображение .

Единственный случай, когда вы хотите, чтобы шум был постоянным, был бы, если вы хотите визуализировать как GAN прогрессирует во время обучения для одного экземпляра .

Например, следующим образом получается следующее изображение.Обратите внимание, что в каждом месте генерируется одно и то же изображение.Это делается путем передачи одного и того же вектора входного шума в GAN на разных этапах во время его обучения.

Answer 2

Шум не постоянен.Шум может фактически рассматриваться как скрытое представление данных, которые генератор пытается изучить неявным образом.Каждое измерение в «шумовом» векторе можно рассматривать как особенность, данную генератору, например, «улыбка» - чем выше значение в этой функции, сгенерированное изображение будет иметь больше улыбки.