Вы можете использовать гуаву:
Files.readLines(new File("myfile.txt"), Charsets.UTF_8);
Или Apache Commons IO:
FileUtils.readLines(new File("myfile.txt"));
Я бы сказал, что оба одинаково элегантны.
В зависимости от вашего точного использования, предположить, что «кодировка по умолчанию» может быть хорошей идеей или нет. В любом случае, лично мне хорошо, что API Guava дает понять, что вы делаете предположение о кодировке файла.
Обновление:
В Java 7 теперь встроено: Files.readAllLines (путь к пути, Charset cs) . И там тоже нужно явно указывать кодировку.