Я специалист по данным, который плохо знаком с Flask (и веб-разработкой) в целом. У меня есть модель OCR для глубокого обучения, которую я хочу развернуть как веб-приложение. У меня есть три конечных точки http://0.0.0.0: 5000 / get_ocr_api , http://0.0.0.0: 5001 / get_ocr и http://0.0.0.0: 5002 / get_ocr_api , работающих на портах 5000, 5001 и 5002 соответственно. У меня есть «базовый» сервер, размещенный на порте 4999. Все мои запросы будут обрабатываться через этот порт.
В идеале я бы хотел, чтобы 4999 перенаправлял запросы (может быть больше 1) на 5000 5001 и 5002 по круговой схеме или в зависимости от того, какой порт в настоящее время не используется. Я понимаю, что балансировщики нагрузки, такие как NGINX и haproxy, позаботятся об этом, но я хотел бы знать, можно ли это сделать с помощью pythoni c или нет.
Спасибо, Мадхав