Вы можете попробовать что-то вроде этого:
File file = new File("/usr/folder1/folder2/filename.ext");
System.out.println(file.getName());
Я не был уверен, сработает ли это, если файл не существует, но только что попробовал его, и, похоже, он работает нормально.