Я бы предложил создать виртуальную машину (в vmware / virtualbox / что угодно) с этими спецификациями в терминах RAM и дискового пространства, а затем провести несколько экспериментов. В чем узкое место приложения - загрузка процессора? Скорость обновления графики? Использование памяти для JVM? Disk IO?
Если вы хотите использовать Linux, я бы лично начал с изучения Damn Small Linux.
Скорее всего, вам потребуется найти JVM, которая хорошо работает при встраиваемости, так как обычная Sun JVM использует память для увеличения скорости.