Multi GPU тренировочный Керас

Question

Я совсем новичок в Керасе и хочу тренировать свою модель на 4 Gpu.К сожалению, я получаю ошибку нехватки памяти с размером пакета 4. (форма ввода 256x265x32).

Теперь я задаюсь вопросом, можно ли тренироваться на всех 4 графических процессорах, хотя с размером пакета 2?

Заранее спасибо,

С уважением,

Майкл

Answer 1

Да, и это довольно легко сделать с их API multi_gpu (https://keras.io/utils/#multi_gpu_model).

Следующая строка должна выполнить трюк и автоматически разделить ваш пакет на подпартии и объединить в конце:

keras.utils.multi_gpu_model(model, gpus=None, cpu_merge=True, cpu_relocation=False)

Единственная проблема, с которой вы столкнетесь, - пакетная нормализация, при которой будет использоваться не весь пакет, а только эти небольшие подпартии. Также пакетная нормализация не работает хорошо для небольших партий (например, размер партии <8). Поэтому я бы предложил не использовать пакетную норму для таких задач. </p>