На какую услугу мы смотрим? Если для этого требуется интеграция с базой данных, вам, вероятно, понадобится хотя бы какая-то платформа - вы действительно не хотите, чтобы ваши SQL-запросы были жестко запрограммированы в приложении. Spring + Hibernate, похоже, является одним из самых популярных вариантов реализации Java-сервера, но оба они достаточно массивны и требуют определенных усилий. Appfuse может быть хорошей отправной точкой для создания сервиса.
Почему вы все равно хотите работать с Java? Это потому, что вы знаете только Java или на вашем сервере уже запущен контейнер Java? Я видел отличные результаты и с Ruby on Rails, и теперь в мире Java также есть кое-что о Scala. Это может быть ваш шанс попробовать что-то новое и более гибкое;)