нет, вы не можете. простой RTP не содержит никакой информации о формате потока и т. д., только информацию о самом пакете: порядковый номер, метка времени, дополнительная информация о синхронизации. Простейший способ потоковой передачи RTP - это RTP / MPEG TS ( MPEG Transport Stream ).
к сожалению, я не знаю готового решения. VLC может передавать (и воспроизводить) такие потоки по UDP из файла, поэтому он получает необходимую информацию из формата файлового контейнера. Такое решение может принимать описание внешнего потока в формате SDP и ваши фактические RTP-пакеты
[EDIT] кстати, странно, что вы получаете только RTP-поток без какого-либо описания его формата, обычно его описание предоставляется каким-либо образом RTSP, MPEG-TS или чем-то еще