Я работаю со Стивеном Полетто, который разместил оригинальный вопрос. Не было никакого существующего решения, которое отвечало бы нашим потребностям, поэтому мы написали наше собственное решение на основе работы Камина Уайтхауса, упомянутой Yair. Он доступен для всех по адресу matlabcontrol.googlecode.com
Позволяет управлять MATLAB из Java-программы, запущенной вне MATLAB.