Отображаемые ошибки не дают достаточных доказательств того, что WiX не установлен. Предполагается, что в вашем проекте консольного приложения отсутствует ссылка на сборку Microsoft.Deployment.WindowsInstaller.dll, которая обычно находится в каталоге C: \ Program Files (x86) \ WiX Toolset v3.11 \ bin.