Да, удаление папки - это именно то, что вы должны сделать. «Чистое» расширение VSIX - это просто распаковка файлов в папку в папке% LocalAppData% \ Microsoft \ VisualStudio \ 10.0 \ Extensions.
Рекомендуется проверить, что он не был установлен с помощью MSI или какой-либо другой технологии установки, проверив в Windows Установка и удаление программ.