В соответствии с документацией личные данные кодека должны быть установлены в 00000001 + sps + 00000001 + pps. Однако документация неверна значение CodecPrivateData, похоже, полностью игнорируется. Вместо этого вам нужно передать SPS и PPS NALS (с заголовком приложения b, конечно) в качестве первого и второго результата GetSampleAsync
.
Для обычных образцов носителей нормальные 4-байтовые заголовки приложения b заголовки работают просто отлично