Это легко возможно, многие упаковщики и системы защиты, такие как Themida , делают это, однако такие вещи можно легко взломать, поэтому вам нужно оценить усилия по сравнению с наградой, необходимой для взлома вашей программы.
Однако, чтобы напрямую ответить на ваш вопрос, лучше всего перехватить точку ввода кода, определенную в PE, и перенаправить ее на ваш контролер (в зависимости от ОС). UPX - это упаковщик исполняемых файлов с открытым исходным кодом, который должен служить хорошей базой для использования или точкой отсчета, поскольку он перехватывает запись исполняемого файла для запуска механизма распаковки.Вы также можете найти несколько статей об упаковщиках и защитниках здесь .