Если микроскоп не использует DirectShow, то вам придется попытаться получить доступ к API разработчиков для прямого доступа к данным. Вы пытаетесь использовать захват экрана, но, по всей вероятности, использование оверлея не позволит вам получить доступ к декодированным кадрам.
Если они используют DirectShow, есть больше надежды. Вы не сможете взломать их граф фильтров, так как интерфейсы DirectShow не работают хорошо в перекрестном процессе, но вы сможете найти их исходное устройство и построить свой собственный граф фильтров.
G