Это общая ошибка, которую вы получаете, когда по какой-либо причине не удается установить или запустить службу (если вы указываете это сделать). Это очень расстраивает. Единственный способ отладки - это медленно удалять зависимости, пока все не заработает. Чаще всего для службы требуется некоторый код (сборка в GAC?), Который не будет полностью сконфигурирован до позднего времени.
Обычно я отлаживаюсь, просматривая Services.msc и пытаясь запустить службу, пока появляется сообщение об ошибке. Как правило, это обеспечивает более качественные сообщения об ошибках, чем установщик Windows.