Use SharedPreferences,
При нажатии кнопки выбора языка вы можете добавить язык как таковой:
SharedPreferences sharedPref = getActivity().getPreferences(Context.MODE_PRIVATE);
SharedPreferences.Editor editor = sharedPref.edit();
editor.putString("LOCALE", lang);
editor.commit();
Чтобы убедиться, что изменения применяются при перезапуске приложения, вы может переопределить класс Application и установить там локаль, получив его как:
SharedPreferences sharedPref = getActivity().getPreferences(Context.MODE_PRIVATE);
String locale = sharedPref.getString("LOCALE", defaultValue);
Это, конечно, простой способ сделать это, в идеале у вас должен быть класс для хранения всех ваших общих предпочтений.
Дополнительную информацию можно найти в Общие настройки и изменение локали .