Похоже, ваша проблема здесь в том, что строка в вашей базе данных находится рядом с краем максимально допустимого размера, и при запуске DBCC SHRINKFILE она добавляет дополнительные данные в эту строку и выводит их за пределы. Я бы посмотрел на ваши таблицы, чтобы увидеть, есть ли одна, которая превышает ограничения по размеру, и посмотреть, если вы не можете изменить ее для хранения некоторых данных вне строки. Например, если у вас очень большое поле nvarchar, вы можете изменить его на TEXT, что позволит вам хранить эти данные на отдельной странице.