Хотя производительность Akka HTTP довольно впечатляющая, я бы не стал использовать ее для написания простого обратного прокси-сервера, поскольку в сообществе есть множество других.
Я не уверен, где вы развертываете свое приложение, но лучший (и более безопасный) подход - это использовать LB, предоставленный вашим облачным провайдером. У большинства из них есть один, и обычно это имеет хорошую выгоду-стоимость.
Если ваш облачный провайдер не предоставляет его или вы сами размещаете свое приложение, то сначала вы должны взглянуть на HAProxy. Вы выполняли тесты на HAProxy изолированным способом, чтобы увидеть, что он все еще имеет те же проблемы с задержкой? Вы уверены, что конфиг оптимизирован для того, что вы хотите? Достаточно ли у вашего HAProxy ресурсов (процессора и памяти) для работы? Ваш HAProxy находится в том же центре обработки данных, что и развернутое приложение?
Если вы следите и проверяете все эти вопросы и у вас все еще есть проблемы с задержкой, то я бы порекомендовал вам выбрать другой. Есть тонны, такие как Envoy и NGINX . Мне действительно нравится Envoy, и я использую его на работе уже несколько месяцев без каких-либо жалоб.
Надеюсь, я смогу помочь.
[] s