Связанное сообщение на форуме winamp ( Vista: запуск установленного приложения в режиме совместимости с XP ) предлагает установить следующий ключ реестра:
HKCU "Software\Microsoft\Windows NT\CurrentVersion\AppCompatFlags\Layers" "[full application path goes here]" "WINXPSP2"
Я не проверял это, но я предполагаю, что использование режима совместимости с XP является настройкой, сохраненной в реестре, поэтому я бы предложил использовать ProcMon , чтобы увидеть, какие ключи изменяются, когда вы применяете настройку вручную.
Наконец, заставьте вашего установщика добавить правильный ключ. Однако само собой разумеется, что в конечном итоге вы должны решить основную проблему.