Я вижу, вы используете библиотеку commons.apache.org , поэтому вы можете использовать moveFile
оттуда
public static void moveFile(File srcFile,
File destFile)
throws IOException
или от jdk Files
public static Path move(Path source,
Path target,
CopyOption... options)
throws IOException
Здесь ваш код изменяется с помощью Apache Commons
for (Iterator iterator = files.iterator(); iterator.hasNext();) {
File file1 = (File) iterator.next();
if (file1.getName().contains("FGA_"))
FileUtils.moveFile(file1, new File("destination"));
else if (file1.getName().contains("UPP_"))
FileUtils.moveFile(file1, new File("destination"));
}