К сожалению, я думаю, что ответ на ваш вопрос хотя бы частично зависит от того, что вам нужно проверить.
Если все, что вас беспокоит, это то, что установка копирует нужные файлы в нужные места, устанавливает правильные данные реестра и т. Д., Тогда почти любой инструмент модульного тестирования, вероятно, удовлетворит ваши потребности. Я бы, вероятно, использовал что-то вроде RSpec2 или Cucumber , но это потому, что я немного знаком с Ruby и мне нравится тот факт, что это будет развертывание xcopy, если скрипты должны быть запустить на другой машине. Мне также нравится идея использования решения на основе BDD, потому что использование предметно-ориентированного языка, очень близкого к читаемому тексту, будет означать, что другие смогут легче понять и при необходимости изменить спецификацию теста при необходимости.
Если, однако, вас беспокоит пользовательский опыт (какие сообщения о прогрессе отображаются и т. Д.), То я не уверен, что тесты, которые вам понадобятся, могут быть выражены так же легко ... или, по крайней мере, не без определенного уровень боли.
Удачи! Не забудьте сообщить другим людям, когда / если вы найдете решение, которое вам нравится.