Существует нет «общей магии», чтобы улучшить производительность «любого веб-сайта». Если бы он существовал, он был бы запечен в LAMP/J2EE/YourWebFrameworkHere, и моя первоначальная инструкция вернулась бы снова.
Но, если вы знаете специфику своего сайта, в большинстве случаев вы можете увеличить его производительность (я стал свидетелем ускорений с коэффициентами от 1 до 1000). Верно, что балансировка нагрузки увеличивает латентность, но вы получаете мощность обработки и (если правильно настроена) доступность (если один сервер опускается, другой берет на себя). И с помощью лака у вас есть отдельный слой до кеш ответ (без фоновой работы) и/или манипулируют некоторыми HTTP-заголовками, связанными с кешем, и/или сжимают ответ. Что мне нравится в Varnish, так это то, что вам не нужно прикасаться к существующей архитектуре (это соответствует вашему вопросу).
Мой вопрос к вам: что вы пытаетесь оптимизировать, где узкое место? Я могу порекомендовать книгу, такую как «Высокопроизводительные веб-сайты (O'Reilly)», чтобы узнать предмет немного лучше (и дать вам возможность задать более конкретный вопрос).