Обратите внимание, что приемник мультимедиа не выполняет кодирование, и это делает формулировку вопроса не совсем точной. Медиапоток получает уже созданный H.264 и форматирует его в поток байтов MP4.
API Media Foundation более высокого уровня, который соответствует описанию вашей работы: Sink Writer API. Внутренне он управляет приемником мультимедиа и, кроме того, он способен связывать преобразования, включая видеокодеры. Это типичный способ заставить кодирование и приемник и приемник мультимедиа взаимодействовать и создавать закодированный контент.
Когда экземпляр Sink Writer добавляет кодеры H.264, его можно запросить для IMFSinkWriterEx интерфейса , который, в свою очередь, можно использовать для доступа к преобразованию кодирования видео с соответствующими параметрами настройки, которые вы ищете. Обратите внимание, что преобразования доступны после добавления потоков и настройки форматов ввода, поэтому настройку кодека необходимо выполнить на соответствующем этапе настройки.