Вы можете просто ссылаться на libVLC и вызывать функции в нем.
http://wiki.videolan.org/LibVLC_SampleCode_Thumbnailer приводит пример небольшой программы на C, которая использует эту технику для открытия фильма, поиска времени в фильме, захвата JPG одного кадра и сохранения его на диск. Это всего лишь несколько строк кода.
Я не знаю о Windows, но на Mac заголовок и общая библиотека находятся по адресу:
в пакете приложения VLC: VLC.app/Contents/MacOS/include/vlc/vlc.h (и другие файлы .h в этом каталоге), а библиотека находится в VLC.app/Contents/MacOS/lib/libvlc. dylib
Обратите внимание, что библиотека GPLv2, а не LGPL. Насколько я понимаю, если вы ссылаетесь на библиотеку, вам необходимо выпустить свою программу под лицензией GPL.