Я знаю, что очень поздно отвечать, но это для того, чтобы помочь другим, кто сталкивается с той же проблемой. Вы можете извинить это, используя:
ProcessBuilder p=new ProcessBuilder("C:\\Program Files\\VideoLAN\\VLC\\vlc.exe","new.avi");
p.start();
ProcessBuilder используется для создания процессов операционной системы, start () запускает процесс. Это будет играть определенный файл в VLC.