Нет монолитного «исполняемого файла Java» - java.exe необходимо дерево каталогов, полное вспомогательных материалов.Вы можете установить свою DLL в директорию «стандартных расширений» внутри этого дерева, хотя собственные библиотеки для стандартных расширений находятся в ${JAVA_HOME}/lib/ext/i386 (например) в Linux и Mac или в $ {JAVA_HOME} / bin в Windows - такчто пользователь не устанавливает ничего лишнего.