Когда проводить валидацию, когда мы тренируемся на основе этапов обучения? - PullRequest
0 голосов
/ 04 апреля 2020

Извините, если этот вопрос кажется немного странным и, возможно, основополагающим c, но, поскольку мне не удалось найти ответ на него, я решил задать его здесь.

Я знаю, что в контексте Что касается глубоких нейронных сетей, мы проверяем обученную модель на валидации (т.е. разработке), установленной после завершения каждой эпохи обучения , что означает простое прохождение всех точек данных обучения один раз. Я также знаю различия между понятиями: эпоха , шаг обучения и размер партии , а также отношения между ними, с которыми люди часто сталкиваются. .

Мой вопрос сейчас заключается в том, что, когда мы обучаем нейронную сеть на основе этапов обучения (предположим, что мы хотели бы продолжить цикл обучения с учетом этапов обучения, который является заранее определенным гиперпараметром модели --– и не эпохи), когда мы должны проверять модель на наборе валидации? Нужно ли нам (просто) учитывать / вычислять эпохи, чтобы определить правильное время (шаг) для выполнения проверки?

И еще один вопрос; Разумно ли, если мы проверяем модель на проверочном наборе после завершения фиксированного числа этапов обучения? Скажем, общее количество шагов обучения, которое мы хотим обучить, составляет 50 000 шагов, и мы проверяем модель после каждого интервала в 5000 шагов.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...