Удаление их с диска должно помочь. Где они существуют, будет немного зависеть от того, где вы их установили. Если вы установили их для всех пользователей, они будут на
% ProgramFiles% \ Microsoft Visual studio 9.0 \ Common7 \ Ide \ ProjectTemplatesCache
Для одного пользователя они будут на
% USERPROFILE% \ Visual Studio 2008 \ Templates \ ProjectTemplates
EDIT
Если InstallVSTemplates завершается неудачей, вероятно, это одно из следующих. Единственное, с чем я не могу помочь, - это какая-то программа, которая случайно выгружает файлы внутри директории ProjectTemplatesCache.
Другая более вероятная причина - в каталоге ProjectTemplates имеется неправильный шаблон. InstallVSTemplates действительно просто проходит через этот каталог и распаковывает все файлы в каталог ProjectTemplatesCache. Вам нужно будет выполнить поиск в этом каталоге и найти файл .zip, содержащий ненужные файлы, добавляемые в ваш проект. Как только вы найдете этот файл, удалите его, удалите ProjectTemplatesCache, а затем снова запустите InstallVSTemplates.