Вероятно, лучший вариант - убедиться, что загруженные файлы jar загружены определенным загрузчиком классов, а затем удалить этот загрузчик классов (после удаления всех объектов).
Что касается модульного тестирования выгрузки, если вы выберете эту опцию, вам нужно расширить свою среду тестирования и настроенные загрузчики классов, чтобы иметь флаг «Создать загрузчик классов по требованию». Затем вы загружаете класс один раз с включенным флагом, сбрасываете загрузчик классов и пытаетесь загрузить класс снова с отключенным флагом. Если класс действительно недоступен, вторая попытка должна вызвать исключение для класса, не найденного. Затем вы оборачиваете свои модульные тесты для прохождения, если они попадают в исключение, и не выполняются, если им удается попасть в линию после второй попытки загрузки.
Если вы склонны использовать больше, чем просто инструменты Java, контейнер OSGi может быть рассмотрен. Большинство установленных реализаций OSGi-контейнера явно тестируют выгрузку классов.