Вам нужно будет запустить 32-битный процесс для загрузки DLL. Это может быть другая JVM, которая действует как сервер RMI и загружает dll, используя JNI или веб-сервис.
Сервер RMI, вероятно, будет более производительным, но веб-служба может быть проще с учетом всех доступных инструментов.
Если вы идете на сервер RMI с маршрутом JNI, посмотрите на Swig - это делает часть JNI намного проще для тех из нас, кто забыл C ++.