Я бы выбрал ленивую загрузку. Когда вы загружаете все заранее, вы просто увеличиваете время запуска приложения и даже рискуете загрузить вещи, которые даже не нужны (больше).
Кстати, эта статичная вещь, о которой вы упомянули, в любом случае фактически приведет к отложенной загрузке, поскольку JVM выполняет отложенную загрузку для классов. Также: когда вы используете ResourceBundles, имейте в виду, что они выполняют некоторое внутреннее кэширование, поэтому определяя
public static final String labelText= "hello world";
или, что еще хуже, инициализация его из пакета ресурсов довольно бессмысленна.
Подробнее читайте:
Метод обработки I18N в Java