Я просто догадываюсь, поскольку я действительно не знаю Matlab, но, возможно, это просто флаг Matlab, чтобы дать ему указание использовать его внутреннюю JVM или использовать операционную систему JVM.
Например, в каталоге Matlab в «C: \ windows \ program files» вы можете найти каталог, содержащий JRE Java, и этот каталог используется по умолчанию, однако если вы используете флаг -NOJVM, он будет игнорировать его внутреннего JRE и найдите системный JRE по умолчанию, на который обычно указывает переменная среды JAVA_HOME.
Это просто предположение и ничего больше; -)