Не существует "общего волшебства" для улучшения производительности "любого веб-сайта". Если бы он существовал, он был бы запечен в LAMP / J2EE / YourWebFrameworkHere, и мое первоначальное утверждение снова было бы верным.
Но, если вы знаете специфику вашего сайта, в большинстве случаев вы можете увеличить его производительность (я наблюдал ускорения с коэффициентами от 1 до 1000). Это верно, что балансировка нагрузки увеличивает задержку, но вы получаете вычислительную мощность и (при правильной настройке) доступность (если один сервер выходит из строя, другой вступает во владение). А с Varnish у вас есть отдельный слой для кеша ответа (без серверной работы) и / или манипулирования некоторыми HTTP-заголовками, связанными с кешем, и / или compress ответ. Что мне нравится в Varnish, так это то, что вам не нужно прикасаться к существующей архитектуре (это соответствует вашему вопросу).
Мой вопрос к вам: что вы пытаетесь оптимизировать, где узкое место? Я могу порекомендовать книгу типа «Высокопроизводительные веб-сайты (O'Reilly)», чтобы немного лучше изучить предмет (и дать вам возможность задать более конкретный вопрос).