Конечно, ваша постоянная память - это ваш жесткий диск, поэтому вам нужно хранить данные там, если вы хотите, чтобы они сохранялись от исполнения к выполнению. На самом деле, все идет. Вы можете хранить конфигурацию в XML-файле, что делает ее читаемой пользователем вне приложения, что очень удобно для отладки, а Java поставляется с библиотеками для анализа и генерации XML. Это будет независимым от ОС, в отличие от решения реестра, которое специфично для Windows. И вы можете использовать подход XML для обмена информацией между приложениями, если это имеет значение. Что-то, чтобы рассмотреть.
Обновление: Предпочтения это круто! Никогда этого не видел.