Согласно коду, это исключение будет сгенерировано, если у вас больше закрывающих скобок, чем открывающих скобок в вашем RTF. Похоже, ваш файл, вероятно, искажен.
Вот код, который выдает исключение:
else if(ch == '}') {
if (currentCharacters.length() > 0) {
handleText(currentCharacters.toString());
currentCharacters = new StringBuffer();
}
if (level == 0)
throw new IOException("Too many close-groups in RTF text");
endgroup();
level --;
}