В Научном центре операций Kepler у нас около 50 машин с 32-64G каждая. Кучи JVM, как правило, 7-20G. Мы используем Java 6. ОС имеет ядро Linux 2.6.
Когда мы перешли на 64-битную версию, я ожидал, что возникнут некоторые проблемы с запуском 64-битной JVM, но в действительности этого не было. Условия нехватки памяти труднее отлаживать, так как дампы кучи намного больше. Java Service Wrapper потребовались некоторые модификации для поддержки больших размеров кучи.
В Интернете есть несколько сайтов, утверждающих, что GC плохо масштабируется после 2G, но я не видел никаких проблем. Наконец, мы делаем интенсивные, а не интерактивные вычисления. Я никогда не смотрел на разницу в задержке; я предполагаю, что задержка GC в худшем случае будет больше при больших размерах кучи.