Имея всего несколько тысяч строк, вы вряд ли увидите большую разницу, даже если она будет немного быстрее. Если вы ожидаете приблизиться к 10000 строк или около того, тогда вы, вероятно, начнете видеть заметную разницу - попробуйте создать большой набор тестовых данных и выполнить тест, чтобы увидеть, поможет ли это.
Однако, поскольку вы усекаете, удаление и воссоздание индекса должно выполняться быстрее, чем вставка в таблицу с существующим индексом. Опять же, для сравнительно небольшой таблицы это не должно иметь значения - если все может удобно уместиться в объеме доступной оперативной памяти, то это будет довольно быстро.
Еще одна мысль - в зависимости от того, как Sybase выполняет индексацию, передача отсортированного списка может замедлить его. Попробуйте сравнить с ORDER BY RANDOM (), чтобы проверить, так ли это.