Опция Пола работает, но вы все равно должны избегать пробелов, как это:
Runtime.getRuntime().exec(new String[]{"open", "/folder\\ name/toast.sh"});
В использовании массива String отстой то, что каждый параметр и его опция должны быть в своем собственном элементе. Например, вы не можете сделать это:
Runtime.getRuntime().exec(new String[]{"executable", "-r -x 1", "/folder\\ name/somefile"});
Но вместо этого нужно указать это так:
Runtime.getRuntime().exec(new String[]{"executable", "-r", "-x", "1", "/folder\\ name/somefile"});