Java можно запускать только на компьютере с JRE (Java Runtime Environment), поэтому ваш файл установки не будет работать так же, как другие файлы установки приложения; вы не сможете дать кому-то свой установочный файл и ожидать, что он будет работать правильно, если у него уже нет соответствующей JRE.
Однако в Java обычный способ выполнить «процедуру установки» обычно приводит к созданию файла «jar». Посмотрите на jar.exe (или "jar", если в Linux / Unix). Он разделит ваши классы на соответствующие контейнеры.