Хорошей новостью является то, что вам не нужно реализовывать пул потоков в веб-приложении. Серверная сторона веб-приложения обычно реализуется с использованием одной из веб-технологий и, как ожидается, будет работать в контейнере, в котором уже реализован пул потоков.
Даже если вы реализуете свое приложение, используя простой JSP или сервлеты, все под контролем, и сервер уже выполняет всю эту работу.
Если вам все еще нужен пул потоков, используйте пакет параллелизма java. В нем есть все, включая очень сильный настраиваемый пул потоков.