ResultSet не так, как вы думаете. Это просто ссылка на фактический набор результатов в базе данных. Вы не можете конвертировать его за один выстрел. Вам придется повторять это построчно. Всякий раз, когда запускается запрос на выборку, полученный результат сохраняется в кэше базы данных, для которого jdbc выделяет ссылку на набор результатов, чтобы упростить доступ к данным.
Итак, ответ на ваш вопрос: да, вам нужно повторять строку за строкой, и, вероятно, вы можете использовать CSV-файл для хранения ваших значений.