Вы пытались настроить переменную среды JAVA_TOOL_OPTIONS
?
Установите это значение на "-Dfile.encoding=UTF8"
, и оно должно быть подхвачено jvm. Но если этого не произойдет, у вас не останется другого выбора, кроме как использовать параметр командной строки.