Вы можете использовать TreeTable, вот сканер каталогов, использующий древовидную таблицу с довольно приличным учебником: http://java.sun.com/products/jfc/tsc/articles/treetable1/
Ваше второе изображение выглядит так же, как JFileChooser ...
JFileChooser fileChooser = new JFileChooser(file);
fileChooser.setFileSelectionMode(JFileChooser.DIRECTORIES_ONLY);
Если вы хотите изменить его поведение, просто создайте класс MyFileChooser, расширяющий JFileChooser.