Мы передаем свойства в WiX из файлов wixproj, используя
<DefineConstants>configuration=$(Configuration)</DefineConstants>
В разделе PropertyGroups. Затем вы можете использовать их внутри wix как $ (var.configuration)
<?if $(var.configuration) = Debug ?>
<?define x=1 ?>
<?endif ?>
В файле справки WiX есть целый раздел, посвященный препроцессору, и посмотрите, что еще можно сделать.