Использование смещения - единственный способ сделать это, если единственной информацией, которую вы имеете, является индекс элемента. Как вы заметили, это неэффективно (для любой базы данных, а не только для хранилища данных).
Однако, в зависимости от вашей ситуации, вы можете использовать альтернативное решение, такое как курсоры хранилища данных.