вы используете exec (String cmd) или exec (String [] cmd)?
иногда у меня возникали проблемы с первым, хотя я не могу сказать, что пошло не так
если вы выполняете "tesseract test10.png text -l, ни", тогда попробуйте "cmd / C \" tesseract test10.png text -l, ни \ "" (и так же, как String []), возможно, некоторые из этих работ