Вы должны использовать модуль вывода vlc mjpg
эта строка cmd работает для меня:
vlc.exe --sout="#transcode{acodec=none,vcodec=mjpg,vb=512}:duplicate{dst=std{access=http{mime=multipart/x-mixed-replace;boundary=--7b3cc56e5f51db803f790dad720ed50a},mux=mpjpeg,dst=0.0.0.0:8080/image.jpg},dst=display}" movie.avi
затем на любой веб-странице (работает на Chrome / Firefox)
<img src="http://127.0.0.1:8080/image.jpg" width="320" height="240"/>
или напрямую с помощью vlc http://127.0.0.1:8080/image.jpg
надеюсь, это поможет.