Если вы только пытаетесь воспроизвести видео, есть другие альтернативы воспроизведению видео, чем попытка настроить браузер для правильного отображения в Java. Видео и браузер - две самые сложные вещи в Swing, и нет смысла пытаться справиться с обеими, если вам нужен только один.
Однако, если вам нужно и то и другое, тогда, когда у вас работает браузер, вы можете довольно легко использовать Flash в этот момент для воспроизведения большого количества видео и аудио.
Я использовал два отдельных решения для встраивания веб-браузера в приложение Swing. Первый довольно прост, вы можете заключить SWTBrowser в Java Swing Component. Единственным недостатком здесь является то, что вы получаете любой браузер на каждой платформе. Второе - это проект Swing XULRunner. XULRunner - это то, на чем построен Firefox. Найти проект немного сложно, но он позволяет полностью настроить браузер и использовать один и тот же на каждой платформе.