Настройка балансировщика нагрузки является распространенным способом решения этой проблемы. Все запросы поступают на балансировщик нагрузки, который действует как прокси и отправляет запрос на один из узлов, для которых вы хотите распределить нагрузку.
Если вы хотите настроить это самостоятельно, я понимаю, что будет просто раскрутить небольшой экземпляр EC2 (или любой другой VPS), используя nginx или аналогичный.
Если вы хотите получить решение «под ключ», Amazon предлагает Упругая балансировка нагрузки . Другие готовые решения включают в себя облачные балансировщики нагрузки Rackspace. Вероятно, лучше всего пойти с Amazon, так как их ELB будет иметь подключение с низкой задержкой к вашим узлам EC2.