Почему max_batches не зависит от размера набора данных? - PullRequest
0 голосов
/ 07 мая 2020

Мне интересно, почему количество изображений не влияет на количество итераций при обучении. Вот пример, чтобы прояснить мой вопрос: Предположим, у нас есть 6400 изображений для обучения распознаванию 4 классов. Основываясь на пояснениях AlexeyAB, мы сохраняем batch = 64, subdivisions = 16 и пишем max_batches = 8000, так как max_batches определяется #classes x 2000.

Поскольку у нас 6400 изображений, полная эпоха требует 100 итераций. Следовательно, это обучение заканчивается через 80 эпох. Теперь предположим, что у нас есть 12800 изображений. В этом случае для эпохи требуется 200 итераций. Таким образом, обучение заканчивается через 40 эпох. Поскольку эпоха относится к одному циклу через весь набор обучающих данных, мне интересно, почему мы не увеличиваем количество итераций при увеличении нашего набора данных, чтобы поддерживать количество эпох постоянным.

Другими словами, я прошу простого объяснения, почему количество эпох не имеет никакого отношения к качеству обучения. Я чувствую, что это следствие конструкции Йоло, но я недостаточно осведомлен, чтобы понять, как это сделать.

1 Ответ

0 голосов
/ 07 мая 2020

Почему количество изображений не влияет на количество итераций при обучении?

  • В dar knet yolo количество итераций зависит от параметра max_batches в .cfg файл. После выполнения max_batches dar knet сохраняет final_weights.

В каждую эпоху все образцы данных передаются по сети, поэтому, если у вас много изображений, обучение время для одной эпохи (и итерации) будет выше, вы можете проверить это, увеличив количество изображений в ваших данных.

Подразделение учитывает количество мини-пакетов. Допустим, у вас в наборе данных 100 изображений. размер вашего пакета - 10, подразделение - 2, max_batches - 20.

Итак, на каждой итерации 10 изображений передаются в сеть двумя мини-пакетами (каждый из которых имеет 5 образцов), как только у вас есть выполнено 20 бэшей (20 * 10 выборок данных), обучение будет завершено. (Детали могут немного отличаться, я использую слегка модифицированный дар knet оригинального автора pjreddie)

...