Ваш второй подход работает
String content = "Cœurs d’artichauts grillées";
Path path = Paths.get("out.txt");
Files.write(path, content.getBytes(Charset.forName("UTF-8")));
Создает файл out.txt
с:
Cœurs d’artichauts grillées
Скорее всего, используемый вами редактор неправильно отображает содержимое. Возможно, вам придется заставить ваш редактор использовать кодировку UTF-8 и шрифт, отображающий œ и другие символы UTF-8. Notepad ++ или IntelliJ IDEA работают "из коробки".