Ваш сервер лицензий работает? Это можно проверить с помощью инструмента bin / admin в установочном каталоге сервера лицензий и путем проверки файла log / server.log.
Кроме того, между ними может быть межсетевой экран, который предотвращает соединение TCP компилятор install4j на сервер лицензий через порт 11862, либо для исходящих соединений на компьютере, на котором выполняется install4j, либо для входящих соединений на сервере лицензий.