Автоматически снижается производительность, когда вам необходимо осуществлять внепроцессные коммуникации, поэтому вопрос в том, достаточно ли хорошо масштабируется сервер приложений, чтобы это окупалось.
В качестве базового практического правила дизайн JVM позволяет использовать любое количество процессоров и любой объем оперативной памяти, предоставляемый операционной системой. Фактические ограничения зависят от реализации JVM, и вам нужно очень внимательно прочитать спецификации, прежде чем выбирать, есть ли какие-либо ограничения, относящиеся к вам.
Если у вас есть JVM, которая может использовать аппаратное обеспечение, вам потребуется сервер приложений, который может масштабироваться соответствующим образом. Распространенным узким местом в наши дни является количество веб-запросов, которое может обрабатываться в секунду - современный сервер должен иметь возможность обрабатывать 10000 запросов в секунду (см. http://www.kegel.com/c10k.html), но не все это делают.
Итак, прежде всего определите ваши наиболее насущные потребности (количество соединений в секунду? Использование памяти? Пропускная способность сети) и используйте это для определения наилучшей комбинации платформы + jvm + сервер приложений. Если у вас есть конкретные потребности, продавцы, как правило, будут рады помочь вам сделать продажу.