NSIS - еще один хороший выбор для установщика. Я использовал это довольно широко, и я использую WiX в своем текущем проекте, в основном, чтобы попробовать другой подход. Тот, который включен в Vistual Studio 2005, очень глючит, но я не пробовал включенные в Visual Studio 2008 и более поздние версии.
NSIS и WiX используют совершенно разные подходы для создания установочного файла. Вам может быть легче понять то или другое. У обоих, кажется, есть довольно активные сообщества, которые помогут, если вы застряли (или спросите здесь, конечно).