В Windows компоновщик не очень гибок, вам необходимо либо добавить путь к каталогу, содержащему библиотеки DLL VTK, в переменную среды PATH, либо поместить исполняемый файл в тот же каталог, что и библиотеки DLL.Это общая проблема с Windows, и не совсем то, что специфично для VTK.Вы также можете создать статическую VTK, а затем просто статически связать.