вам нужно использовать matlab Builder NE для подобных вещей. Вы можете скомпилировать любую функцию Matlab, загрузив Dll в .net как класс с функцией.
для этого вам нужно использовать Matlab Compiler Runtime - MCR той же версии, что и Matlab, который вы использовали с Builder NE.