Я почти уверен, что ответ - нет. AssemblyInstaller попытается использовать метаданные сборки.
Почему вы хотите смешать две разные платформы? Если вы можете написать сервис с C ++ и Win32 API, вы должны установить его, создав несколько разделов реестра, не так ли? Использование AssemblyInstaller.Install в этом случае просто не стоит.