Я не знаю ни одной библиотеки, которая бы дала вам такую готовность (и в любом случае StackOverflow не для библиотечных рекомендаций).
Если бы вы реализовали это самостоятельно, вам понадобится реализовать драйвер виртуального дисплея. Для этого вам нужно узнать о IOKit, IODisplay, IOFramebuffer и (возможно) IOGraphicsLib. Это довольно сложный проект, и вам нужно знать C ++.
См. IOKit в документации Apple, чтобы понять, на что вы смотрите.
В зависимости на том, что вы пытаетесь сделать, возможно, стоит посмотреть, как работает VN C, в частности протокол удаленного буфера кадров.