Я предположил, что максимум был 9, но после некоторых экспериментов я знаю, что это не так. Javadocs для Pattern и Matcher , чтобы не отображать максимум.
Там нет явного потолка, поэтому теоретически максимум будет Integer.MAX_VALUE. Практически, максимальная величина будет зависеть от доступных ресурсов, но я уверен, что это намного больше, чем вам когда-либо понадобится.