Какая связь между размером пакета и буфером перемешивания? - PullRequest
0 голосов
/ 16 апреля 2020

Я использую keras / tenorflow из R и обучаю U- Net, следуя этому уроку с собственными данными.

У меня нет проблем с кодом с изображениями размером 256 x 256 с размером пакета 10, однако при использовании 560 x 560 я постоянно получаю ошибки OOM при установке модели на графический процессор.

Ответы на аналогичные вопросы предлагают уменьшить размер партии. Для размера партии = 3 можно установить модель для 560 x 560, но меня беспокоит влияние на перемешивание.

Код для перемешивания:

if (train) {
    dataset <- dataset %>% 
    dataset_shuffle(buffer_size = batch_size*128)
}

"Изменение значения buffer_size влияет на то, насколько равномерна перетасовка: если buffer_size больше, чем количество элементов в наборе данных, вы получаете равномерную перетасовку, если она равна 1, вы вообще не переставляете. "

Значение buffer_size в Dataset.map, Dataset.prefetch и Dataset.shuffle

Должен ли размер буфера в этом случае превышать размер пакета, скажем, 5?

Или больше, чем общее количество изображений (в моем случае 3800)? Последнее, вероятно, снова приведет к полной оперативной памяти.

Заранее спасибо.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...