Наличие чего-либо в памяти не является требованием, требование является резонансом для этого - в чем причина? ORM (Hibernate, EclipseLink и т. Д.) Обычно делают кэширование , если этого недостаточно, попробуйте некоторые кэши (EHcache, JBoss Cache, ...) и установите для них несколько загрузчиков кеша (посмотрите на EOM Apple, это довольно просто).