Я большой поклонник использования WiX для установщиков - даже если у вас есть Visual Studio Pro со встроенными средствами создания MSI
http://wix.sourceforge.net/
Преимущество WiX заключается в том, что вы можете делать практически все что угодно, от супер простого до очень сложного. Это отличный инструмент, потому что вы можете быстро начать работу, а затем двигаться вверх (добавлять диалоги и т. Д.), Когда ваше приложение становится все более популярным.
Один прием для установщиков - рассмотрите возможность использования VMWare / HyperV, установите тестовую ОС, а затем сделайте снимок ОС до установки приложения. Если все работает, отлично - все готово. Однако, если что-то не так, откатите ОС до предустановочного снимка, исправьте ошибку и попробуйте снова.