Я также использую плагин VLC Mozilla для своего проекта, и у меня проблема с потоками h264. Единственным способом обработки такого потока было использование --ffmpeg-hw (для использования vaapi), поскольку Xlib работает только в автономном приложении VLC (флаг --no-xlib в vlcplugin_base.cpp). Поэтому я удалил этот флаг и добавил XInitThreads (), и теперь он работает, НО далеко от уровня производительности, который у вас был, и, кроме того, флаг no-xlib присутствовал по причине (это может привести к некоторому нежелательному поведению).
Итак, главный вопрос в том, КАК вы пришли к таким результатам, и если это возможно, поделиться своими флагами конфигурации со мной и остальными.
Я использую 4-х ядерный процессор и графику nvidia ION. Ядра процессора остаются на умеренном уровне, но поток в полноэкранном режиме не воспроизводится гладко. Если те же потоки запускаются в cvlc, это работает отлично. Флаг ffmpeg-hw используется в обеих учетных записях без каких-либо предупреждающих сообщений (vaapi успешно возвращается).