Битность определяется настройкой Platform Target в EXE-файле. Не существует механизма, гарантирующего, что EXE, который ссылается только на 32-разрядную сборку, будет принудительно работать в 32-разрядном режиме. Сборка просто не удастся загрузить с BadImageFormatException.
Если ваша программа зависит от такой библиотеки DLL, то вы должны принудительно установить целевой объект платформы для вашего проекта EXE с AnyCPU на x86.