При разбиении на страницы вам всегда нужно передавать значение свойства, которое вы заказываете. Кроме того, если для этого свойства существует несколько узлов с одинаковым значением, вы должны передать ключ первого возвращаемого элемента.
Таким образом, в вашем case это будет:
mReference.orderByChild("rating").startAt(rating, key).limitToLast(TOTAL_ITEMS_TO_LOAD);
Это предполагает, что у вас есть рейтинг узла в rating
и его ключ в key
.