У меня есть ответ на этот вопрос ...
возвращаемое значение должно быть приведено к MWCellArray, а затем должна использоваться функция getCell для получения значения ячейки, которое будет объектом MWArray.
Этот MWArray является возвращаемым значением ..
Код будет ::
Object[] o = <matlab function called>
MWCellArray x = (MWCellArray)o[0];
MWArray arr = x.getCell(new int[]{1,1});
в моем случае arr представлял строку. Итак, arr.toString () дает требуемый результат ..:)