Что означает «Эпоха» в обучении Генеративные Состязательные Сети

Question

Я тренирую ГАН с текстовыми данными. Когда я обучаю дискриминатор, я случайным образом выбираю m положительных данных из набора данных и генерирую m отрицательных данных с помощью генератора. Я обнаружил много упоминаний о деталях реализации, таких как эпохи обучения. О тренировочных эпохах у меня есть вопрос о выборке положительных данных:

1. Выборка из набора данных (может быть перемешана), чтобы при покрытии всего набора данных мы назвали 1 эпоху
2. Как и я, случайная выборка положительных данных, когда общий объем выборочных данных совпадает с размером набора данных, мы называем 1 эпоха

Какой из них правильный? или какой обычно используется? или какой из них лучше?

Answer 1

На мой взгляд, эпоха - это когда вы один раз прошли через все данные тренировок. и я думаю, что в статье они также подразумевают проход через весь тренировочный набор, когда упоминают эпоху.

Однако, эпоху можно также определить как после обработки k элементов, где k может быть меньше n (размер обучающего набора). Такое определение может иметь смысл, когда вы хотите получить некоторую оценку вашей модели на наборе разработчиков, и вы обычно делаете это после every single epoch.

В конце концов, это мое мнение и мое понимание GAN документы.

Удачи!