Требования: распределенная система для многоузлового кластера графических процессоров - каждый узел с несколькими графическими процессорами - для служб реального времени.Мы предоставляем услуги преобразования текста в речь в режиме реального времени (клиент печатает текст и отправляет запрос на сервер, ожидая, когда аудио текста вернется в режиме реального времени), что означает задержку между получением запроса заданияпланирование и распределение работы на оборудовании должно быть минимальным (около 0,01 секунды).Предпочтителен открытый исходный код с высокой гибкостью.
, пожалуйста, порекомендуйте систему с низкой задержкой, которую можно использовать на производственных серверах.
У меня есть* подробно изучил slurm (C ++) и сельдерей (python) , но о его задержке нет страницы.Если вы знаете что-нибудь о задержке, связанной с этими двумя, пожалуйста, поделитесь со мной.
Это относится к сфере обработки потока событий (ESP)?