Для типичных веб-приложений разница в скорости обычно не ощущается в самом запросе (сетевая задержка сокращает время вычислений для типичного сценария, который выполняется внутри HTTP-запроса).
Существует множество других вещей, которые влияют на масштабируемость, но обработка должна обрабатывать средний запрос, учитывающий факторы. Таким образом, одинокий пользователь не почувствует разницу. Пользователь, который является одним из многих, может почувствовать разницу, поскольку инфраструктура сервера борется с нагрузкой.
Конечно, использование большего количества процессоров уменьшит проблему, но, как говорит jrockway, поддержка двух серверов значительно более чем в два раза сложнее, чем поддержка одного.
Все это говорит о том, что в подавляющем большинстве случаев ваши узкие места не будут процессорами. Вам не хватит памяти, или вы обнаружите, что взаимодействие с базой данных является настоящим узким местом.