Поиск в HashMap будет быстрее, но если данные меняются, у вас есть накладные расходы по управлению данными и обновлению вашего кэша, не говоря уже о том, чтобы решить, какие биты данных вы собираетесь кэшировать.
Обратите внимание, что ваша база данных, вероятно, будет выполнять некоторое собственное кэширование, а обычные запросы, вероятно, будут возвращать данные очень быстро, даже не проходя через анализатор запросов, не говоря уже о ударе по диску.