Если вы говорите о том, что работающий веб-сайт пытается удалить файл, удалите его в отдельной теме.
Если вы говорите об удалении исходного файла, у меня была эта проблема несколько лет назад. Я не помню, что это было за исправление, но я не думаю, что оно в последней версии Visual Studio (которую вы, вероятно, используете, если делаете MVC)