Ответ, который вы получите, не является строкой, это PKIMessage
объект. Вы можете преобразовать двоичные данные в объект следующим образом:
ASN1InputStream is = new ASN1InputStream(new ByteArrayInputStream(new_bytes));
PKIMessage pkiMessage = PKIMessage.getInstance(is.readObject());
GeneralPKIMessage generalPKIMessage = new GeneralPKIMessage(pkiMessage.getEncoded());
System.out.println(generalPKIMessage);
Вы получаете объект PKIMessage как для сбоя, так и для успешной операции CMP. В этом объекте можно найти сообщение об ошибке или сертификат пользователя (в зависимости от того, какую операцию CMP вы выполняете).