Вы не можете загрузить 32-битную DLL в 64-битный процесс в Windows.
Я никогда не пробовал сам, но вы могли бы создать отдельное 32-битное приложение, которое может работать вдругой процесс и выступать в качестве прокси для DLL.Ваше приложение может затем работать в 64-битном режиме и обмениваться данными с DLL с помощью удаленных вызовов процедур через WCF.
Если производительность вызывает беспокойство, то лучше всего будет перестроить DLL в 64-битный режим, если это возможно.