Вместо этого вы должны использовать x64-версию регистров.
Поэтому правильная версия должна выглядеть так:
__asm{
mov rax, 5h;
push rax;
};
Кроме того, обращайте внимание на различия в архитектуре при работе с указателями, 0x8 ******* и т. Д. Никогда не следует использовать пакетный поиск и замену, не прочитав сначала свой встроенный код.