Glassfish - это хорошо известный бесплатный сервер приложений Java с открытым исходным кодом, но он немного более полнофункциональный, чем Tomcat, и, следовательно, потенциально более сложен (он имеет полный стек Java EE).
Jetty больше похож на Tomcat в том смысле, что это, прежде всего, контейнер сервлетов, вы также можете посмотреть на это. Некоторые проекты (например, Grails) по разным причинам переключились с использования Jetty на Tomcat, но это может работать для ваших нужд.