Самое важное для хорошей масштабируемости - это архитектура и реализация масштабируемого (запускаемого) приложения.
На ваших серверах масштабирование реляционной базы данных будет намного дороже, чем добавление большего количества серверов приложений. В облаке база данных ограничена. (Имеет меньше возможностей, чем современные реляционные базы данных.)
Итак, первое, что нужно сделать, чтобы быть масштабируемым, это: позволить архитектуре вашего приложения использовать базу данных на минимально возможном уровне и иметь несколько серверов приложений, где выполняется максимум обработки.
В веб-приложениях вы можете использовать javascript на своих страницах, чтобы браузеры клиента выполняли меньше запросов и упрощали запросы к вашему серверу.
Другой способ сказал, что больше серверов дешевле, чем одна супермашина.
И все, что вы можете использовать больше серверов, определяется архитектурой вашего приложения.
Кэширование может помочь любому приложению.