Я делаю это не часто, но обычно я делаю что-то вроде:
fullpathToHeader = 'c:\full\path\to\a\header.h';
fullpathToDll = 'c:\full\path\to\a\libraty.dll';
loadlibrary(fullpathToDll, fullpathToHeader);
Тогда, если это сработает, вы можете вызывать библиотечные функции как:
[outArg1, outArg2, ...] = calllib('library','function',inArg1, inArg2, ...)