Да, главное отличие 64-битной виртуальной машины - доступ к большему максимальному объему памяти.
Смысл Java в том, что скомпилированные файлы .class работают на любой системе Java, независимо от используемого оборудования.
Ваша программа будет работать как в 32-битной, так и в 64-битной системе, но, если необходимо, при условии, что аппаратное обеспечение и ОС работают, ваше приложение сможет получить доступ к значительно большему объему памяти, работает в 64-битной виртуальной машине по сравнению с 32-битной виртуальной машиной.