У меня была такая же проблема, и затем я понял, что никогда не устанавливал родителя для ServiceInstaller.
Дважды щелкните по вашему установщику проекта. Разработчик должен показать установщик службы и установщик процесса. Когда вы щелкаете по любому из них и просматриваете свойства, вы должны обратить внимание на атрибут Parent, который должен быть установлен как имя класса установщика проекта.
Или, если вы делаете это в коде, убедитесь, что вы установили:
serviceInstaller.Parent = this;
и
serviceProcessInstaller.Parent = this;