Обучение с использованием нескольких графических процессоров

Question

Я хочу обучить RETURRN для набора данных LibriSpeech, используя несколько графических процессоров, но не знаю, как это сделать. Это возможно? Я не вижу никакой возможности включить его в файл .config.

Answer 1

Да, это возможно.Вы найдете описание в документации .В настоящее время он использует Horovod, и в основном вы должны установить use_horovod = True, но для получения более подробной информации см. Документацию.