Существует несколько стеков RTP, и тот, который вы используете, зависит от того, на каком языке вы собираетесь работать, pjmedia - хороший кроссплатформенный.
RTP-потоки могут переносить мультимедиа только из одного источника, поэтому вы не сможете мультиплексировать несколько видеопотоков в один RTP-поток, см. Источник синхронизации (SSRC) на стр. 9 RTP RFC, То, что вы могли бы сделать, это иметь два отдельных RTP-потока (разных SSRC), отправляемых из одного сокета, что означало бы, что вы мультиплексируете их в отношении сети. Если вы действительно хотите объединить несколько видеопотоков в один поток RTP, то вам нужно смешать их, что представляет собой совершенно другой источник рыбы.