Когда один сервер будет насыщен, вам необходимо будет выполнить кэширование или распределение нагрузки между двумя (или более) серверами (или одновременно кэширование и распределение нагрузки).
Для этого есть специальные устройства, а также специализированное программное обеспечение.
В настоящее время я работаю над таким (программным) решением для собственных нужд, адаптируя наш веб-сервер для поддержки как кэширования, так и балансировки нагрузки, в основном для приложений PHP и Java.
Выбор зависит от бюджета и других (технических) ограничений, поэтому его нельзя обсудить, если вы не знаете больше о вашем проекте.