Посмотрите на существующие видеоплееры, такие как mplayer или vlc, которые могут воспроизводить FLV-файлы.
Если вы хотите что-то более низкого уровня, Qt :: media поддерживает Gstream, который поддерживает flv. Однако это может пойти против того, что вы хотите, так как вы используете wxwidgets.
Затем вы можете напрямую изучить интеграцию GStreamer в своем приложении.