Я не думаю, что масштабируемость имеет смысл ни на йоту без контекста.
Когда меня спрашивают о масштабируемости системы, первое, что мне нужно знать, это то, каким образом ожидается рост ее использования. Будет ли это получать больше пользователей? Будут ли существующие пользователи активнее использовать его? Будет ли расти его набор функций? Изменится ли набор транзакций, которые он сейчас поддерживает? Потребуется ли изменить опыт пользователя?
(ОК, поэтому ответ на все эти вопросы обычно "Да"; затем добавьте слово "Как" к этим вопросам.)
Чтобы выбрать не совсем вымышленный пример: система, в настоящее время поддерживающая очень мало пользователей, и чья база пользователей должна быстро расти, сталкивается с серьезной проблемой масштабирования, если администратор БД должен тратить два часа на ручной запуск запросов из информации, выбранной из сообщения электронной почты каждый раз, когда он должен создать новую учетную запись. Это не проблема, которую можно решить, добавив больше ресурсов, если вы не включите администраторов баз данных в список ресурсов, которые вы собираетесь добавить (и есть много причин, которые не будут хорошо масштабироваться).
Или представьте себе сайт социальной сети, в котором реализована потрясающая новая функция, которая позволяет увидеть, находятся ли ваши друзья в сети, и пообщаться с ними через приятный пользовательский интерфейс Ajax-y. Внезапно, без увеличения пользовательской базы, число HTTP-запросов, обрабатываемых вашими серверами в день, подскочило в двадцать раз, и ваши опасения по поводу масштабируемости вашей базы данных отошли на второй план. (Если, конечно, вы не включили базу данных в приложение чата. Хорошее мышление!)
Конечно, делая ваши веб-приложения не имеющими состояния, чтобы вы могли добавлять веб-серверы, делая веб-страницы идемпотентными, чтобы вы могли добавлять прокси, разрабатывая ваше приложение, чтобы вы могли разделить базу данных по серверам, все это сделает ваше приложение масштабируемый в различных измерениях. Об этом стоит подумать. Но гораздо важнее выяснить, кто ваш настоящий враг, прежде чем вы начнете сражаться.