Возможно, в индексе недостаточно данных для проведения дефрагментации. После того, как вы получите пару тысяч строк, перестройки и перестройки избавят от фрагментации.
Пока количество страниц индекса не достигнет 100 или около того, фрагментация не повлияет на производительность.
Вы также захотите убедиться, что ваш запрос покрыт индексом и что индекс используется.
Запустите запрос из студии управления (вы можете захватить запрос с помощью SQL Server Profiler или Activity Monitor, если он динамический) и нажмите «Включить фактический план выполнения». Это скажет вам, какой индекс используется и покрыт ли запрос.