Вам необходимо разместить веб-сервис Java на чем-то, позволяющем это - например, Tomcat.Чем вам нужно настроить IIS для пересылки запросов на Java-сервисы в Tomcat - проверьте Apache Tomcat Connector .
Обычно IIS расширяется с помощью так называемого расширения ISAPI - это собственная обработка пересылки библиотек определенныхзапрос на исправление компонента.Существуют расширения ISAPI для обработки запросов в Java, но чаще всего они только направляют запрос на другой сервер - я полагаю, именно это и делает Tomcat Connector.