вам нужно выполнить
open /path/to/some.app
и
Runtime.getRuntime().exec( new String[] { "open", "/path/to/app/SomeApp.app"} );
теперь ваше приложение находится в jar, поэтому оно больше не будет файлом приложения, вам нужно иметь его на дискев /path/to/app
Вам нужно извлечь .app
файл из .jar
и затем выполнить его здесь как это сделать