Ваш вопрос не очень ясен,
Можете ли вы привести пример значения реестра.
Я использовал это в прошлом.
<Property Id="INSTALLDIR">
<RegistrySearch Id="INSTALLDIRRegistry" Type="raw" Root="HKLM" Key="Software\Manufacturer\Product" Name="InstallDir" />
</Property>
<Directory Id="TARGETDIR" Name="SourceDir">
<Directory Id="INSTALLDIR" Name="ProductName">
Устанавливает INSTALLDIR в качестве местоположения пути в значении реестра. Я думаю, что в вашем случае вы пытаетесь установить путь к папке, путь к которой уже определен кодом wix.
Вы можете попробовать что-то вроде этого
<Directory Id="TARGETDIR" Name="SourceDir">
<Directory Id="ROLESDIR" Name="Roles">
<Directory Id="RoleDir" Name="MyRole" />
</Directory>
<Directory Id="ProgramFilesFolder">
<Directory Id="SDIR">
<Directory Id="CONFDIR" Name="Conf" />
</Directory>
</Directory>
</Directory>
Надеюсь, это поможет