Что вам, вероятно, нужно, это что-то вроде этого (соблюдая кавычки в команде):
<CustomAction Id='ExecNotepad' Directory='INSTALLDIR' Execute='immediate'
ExeCommand='[SystemFolder]notepad.exe "[SOMEFILE]"' Return='ignore'/>
ExeCommand - это то место, куда вы хотите поместить свою команду.Здесь я запускаю блокнот с файлом.Некоторые атрибуты могут отличаться в зависимости от того, что делает ваша команда, в частности параметры Execute и ImpersonateТакже было бы полезно узнать, какую версию WiX вы использовали (код выше v2).