есть ли функция php для открытия Matlab с помощью командной строки Windows
Да, несколько на самом деле:
exec
popen
system
passthru
shell_exec
proc_ open