Да, вы можете с API-интерфейсом Video Callbacks. Посмотрите пример с кратким описанием, который использует эту технику: https://code.videolan.org/mfkl/libvlcsharp-samples/tree/master/PreviewThumbnailExtractor
Что касается второго вопроса, нет, вывод необходимо скопировать в ОЗУ, что, очевидно, снижает производительность, поскольку вы ' мы не используем аппаратное ускорение от начала до конца.
Это по крайней мере состояние API libvl c 3, но в libvl c 4.
все может измениться