Это не проблема QueryDSL, а ограничение JPQL. Поддержка подзапросов существует только для предложений Select и Where. Из документации Hibernate :
Обратите внимание, что подзапросы HQL могут появляться только в предложениях select или where.
Вам необходимо использовать собственные запросы, если вы sh будете использовать подзапросы таким образом. Например, см. JPA подзапрос из предложения для миграции запросов. QueryDSL поддерживает собственные запросы, поэтому принципы должны быть переведены.