Любой SQL, который мог быть выполнен, еще не был зафиксирован. Если ваш откат по какой-то причине истечет время ожидания, это не приведет к фиксации. Следовательно, в конечном итоге БД поймет, что все прошло грушевидно, и откажется от изменений.
Увеличение размера MDF не означает, что транзакция была совершена. Однако результаты сделки нужно где-то поместить. Для совершения транзакции требуется минимальное изменение в БД. Следовательно, страницы могут быть распределены, а данные записаны, а затем при фиксации всего лишь несколько других битов, указывающих во всех нужных местах.
Если происходит откат, последние несколько бит не изменяются, и эти выделенные страницы просто становятся свободными страницами, которые можно использовать для других целей. Вы не можете ожидать, что БД просто снова сократится.