EDIT:
Начиная с java 9, теперь в Desktop API есть метод выбора файла
desktop.browseFileDirectory(<file>)
EDIT:
Вы не можете выделить конкретный файл с помощью API Java Desktop.
ОТВЕТ НА ОРИГИНАЛЬНЫЙ ВОПРОС:
Desktop API позволит вам сделать это, используя этот фрагмент,
File file = new File ("c:\<directory>");
Desktop desktop = Desktop.getDesktop();
desktop.open(file);
Документация для кода, использованного выше, находится по этим ссылкам,
http://docs.oracle.com/javase/10/docs/api/java/awt/Desktop.html и
http://docs.oracle.com/javase/10/docs/api/java/io/File.html
На компьютере под управлением Windows откроется файловый менеджер по умолчанию, а в других системах - соответственно их обозреватели по умолчанию.
В качестве альтернативы вы можете использовать новый API Java Path для создания требуемого пути, а затем вызвать метод, который возвращает соответствующий объект File.
Для краткости я исключил проверочный код, чтобы убедиться, что объекты Desktop и File существуют.