Нет. Хотя спецификации видео HTML5 не определяют, какие кодеки следует использовать, в настоящее время браузеры поддерживают только H.264 и WebM.
RTMP использует другой кодек, так что нет, он не поддерживается ни одним браузером с 3 квартала 2010 года. (также RTSP - это протокол, который работает рядом с HTTP, а не поверх него. RTSPT ("RTSP over HTTP") теоретически может поддерживаться в будущем или с помощью какого-либо плагина, но вряд ли бывает)