Вы уверены, что набор записей действительно что-либо возвращает в случае записей более 5К?
response.write Recordset.state
Вот возможные значения состояния.
0 Объект закрыт
1 Объект открыт
2 Объект соединяется
4 Объект выполняется
8 Объект загружается
Также убедитесь, что у вас нет страницы, которая молча глотает ошибки. Моя интуиция говорит, что в запросе есть ошибка, которая возвращает 5К строк и что это не имеет никакого отношения к счетчику строк. Хороший способ проверить это - запустить запрос 5K непосредственно в фоновой БД и исключить его первым.