Вы можете использовать API JFileChooser для выполнения своей задачи.
Только для открытия .xml файл
// create a filechooser;
JFileChooser chooser = new JFileChooser(cwd);
FileNameExtensionFilter xmlfilter = new FileNameExtensionFilter(
"xml files (*.xml)", "xml");
chooser.setDialogTitle("Open schedule file");
// set selected filter
chooser.setFileFilter(xmlfilter);
Кроме того, пройдите через javax.swing.filechooser.FileNameExtensionFilter.