Если вы используете 1.6, используйте Desktop API согласно совету mad-j. Если вы используете более старую виртуальную машину (1.5 или более раннюю), вам нужно написать собственный код для конкретной платформы, чтобы сделать это.
На маке,
Runtime.getRuntime().exec(new String[] {"open", pathToFile});
На окнах
Runtime.getRuntime().exec(new String[] {"cmd.exe", "/C", pathToFile});
Возможно, вам придется покинуть путь в Windows.