Я заметил то же самое с MATLAB R2016a (не с более поздними версиями) и MEX-файлами, которые используют LibTIFF (но не через OpenCV). Я думаю, что они сделали что-то странное с библиотекой LibTIFF в этой версии MATLAB. Либо это, либо новые MATLABs имеют более новую версию LibTIFF, которая может удовлетворить все требования моих MEX-файлов.
Даже если вы правильно установили правильный RPATH в своем MEX-файле, MATLAB уже загрузит разделяемую библиотеку LibTIFF, поэтому, когда он загружает ваш MEX-файл, он будет связан с LibTIFF, который уже находится в памяти.
Решение, как всегда, заключается в использовании статического связывания. Перестройте OpenCV, чтобы статически связать LibTIFF. Если вы используете статическое связывание, ваш код всегда будет использовать функции LibTIFF, с которыми они были связаны, и никогда не использовать те функции в любом общем объекте, который находится в памяти.