Обучение модели с использованием набора данных

Question

У меня есть модель, которая должна тренироваться с данными реального мира, которые я получаю ежедневно.Каждые 3 или 4 дня я могу подготовить около 500 изображений для тренировок.Итак, я должен начать тренироваться и проверять модель сразу после получения 500 изображений.Тем временем я приобрету еще 500 изображений и так далее.Можно ли тренироваться с первыми 500 наборами данных, сохранять веса моделей и продолжать тренировку с последними 500 наборами данных, используя сохраненные веса?

Answer 1

У вас есть два варианта - эффективно участвовать в трансферном обучении (как упомянуто выше) ИЛИ, если вы действительно верите, что старые данные + новые данные = наилучший возможный набор данных для обучения, рассмотрите возможность переподготовки с полного набора данных (старые данные + новые данные). Последний дает все данные, новые и старые, одинаково справедливо, что не всегда верно для трансферного обучения. Хотя я должен подвергать сомнению вашу необходимость делать это каждые 3 или 4 дня - если ваша проблема хорошо сформулирована и ваш дизайн модели хорош, в какой-то момент у вас должно быть достаточно данных, чтобы модель, обученная на этих данных, обобщала достаточно хорошо, чтобы непрерывно давать больше данных больше не будет значительно улучшать производительность. Кроме того, если модель будет работать значительно лучше после обучения на 2000 изображениях, чем на 500, почему бы не подождать еще пару недель, пока у вас не будет 2000 изображений, прежде чем выпустить их в реальный мир? Очевидно, это зависит от вашей задачи и сферы деятельности, поэтому у вас может быть веская причина, о которой я не знаю, но о ней стоит подумать.

Answer 2

Это в основном похоже на трансферное обучение. Вы берете предварительно обученную модель и настраиваете ее на новые данные. Вам нужно сохранить модель и ее вес, а затем загрузить их обратно и обучиться новым данным, как обычно. Это обычная практика.