Как уже говорилось в ответе, вы должны полагаться на AST, а не просматривать код вручную для этого.AST никогда не ошибется, ваши собственные навыки чтения чаще всего будут.
Я не знаю полного решения сейчас, но предлагаю вам потратить некоторое время на изучение существующих инструментов для вычисления метрик программного обеспечения.Глубина вложения является типичной метрикой, и вокруг должны быть инструменты.
Если вы не можете ничего найти, вы можете, по крайней мере, вернуться к написанию чего-то вроде плагина Eclipse.В этом случае вы можете просто загрузить файл Java в редакторе Eclipse, и Eclipse выполнит всю тяжелую работу за вас и бесплатно предоставит вам AST.Определение глубины вложенности данного AST становится простой задачей.Разработка прототипа для этого не должна занять более нескольких часов.И его легко расширить, чтобы охватить весь ваш проект и дать ему возможность ответить на такие вопросы, как «какой java-файл в нашем проекте имеет максимальную глубину вложения и какая это глубина?».Но опять же ... кто-то еще обязательно укажет на существующий инструмент, который уже делает это и многое другое.