@ artjomka
Мне удалось воспроизвести вашу проблему, установив в качестве локали по умолчанию значение «Латвия»
Locale.setDefault(new Locale("lv","LV"));
Currency c = Currency.getInstance("EUR");
System.out.println(c.getSymbol());
Это дало мне вывод «EUR».
Однако, оставив настройку моей локали в Великобритании (уже по умолчанию), я получаю символ евро (€).
Locale.setDefault(Locale.UK);
Currency c = Currency.getInstance("EUR");
System.out.println(c.getSymbol());