Microsoft Media Foundation - декодирование образцов h264 - PullRequest
Новая
       3

Microsoft Media Foundation - декодирование образцов h264

3 голосов
/ 21 сентября 2010

Я использовал образцы Microsoft Media Foundation (а именно MFCaptureToFile) для захвата кадров H264 с моей веб-камеры и записи их в файл.

Я пытаюсь использовать IMFTransform для декодирования захваченных кадров и получения подчеркиванияизображения вне (YUV, BMP, что угодно).

Однако метод ProcessInput никогда не возвращается с MF_E_NOTACCEPTING, а метод ProcessOutput всегда возвращает MF_E_TRANSFORM_NEED_MORE_INPUT.

Я в основном читаю каждый кадр и вызываю ProcessInput для него.

Есть идеи?Может кто-нибудь изменить образец MFCaptureToFile, чтобы показать мне, как это делается?Я делаю всю свою обработку в CCapture :: OnReadSample.

Любая помощь будет принята с благодарностью!

Ido

Ответы [ 2 ]

6 голосов
/ 16 марта 2015

Мне удалось успешно использовать MFT-декодер H264 MFT для дешифрования кадров, сохраненных в файле .mp4, в необработанный формат YUV. Полный образец кода доступен здесь .

Критически важными элементами являются создание MFT-декодера H264 и последующее предоставление ему образцов. Я включил фрагменты кода для этих двух битов ниже. 

// Create H.264 decoder.
CHECK_HR(CoCreateInstance(CLSID_CMSH264DecoderMFT, NULL, CLSCTX_INPROC_SERVER,
    IID_IUnknown, (void**)&spDecTransformUnk), "Failed to create H264 decoder MFT.\n");

CHECK_HR(spDecTransformUnk->QueryInterface(IID_PPV_ARGS(&pDecoderTransform)), "Failed to get IMFTransform interface from H264 decoder MFT object.\n");

MFCreateMediaType(&pDecInputMediaType);
CHECK_HR(pFileVideoMediaType->CopyAllItems(pDecInputMediaType), "Error copying media type attributes to decoder input media type.\n");
CHECK_HR(pDecoderTransform->SetInputType(0, pDecInputMediaType, 0), "Failed to set input media type on H.264 decoder MFT.\n");

MFCreateMediaType(&pDecOutputMediaType);
pDecOutputMediaType->SetGUID(MF_MT_MAJOR_TYPE, MFMediaType_Video);
pDecOutputMediaType->SetGUID(MF_MT_SUBTYPE, MFVideoFormat_IYUV);
CHECK_HR(MFSetAttributeSize(pDecOutputMediaType, MF_MT_FRAME_SIZE, VIDEO_SAMPLE_WIDTH, VIDEO_SAMPLE_HEIGHT), "Failed to set frame size on H264 MFT out type.\n");
CHECK_HR(MFSetAttributeRatio(pDecOutputMediaType, MF_MT_FRAME_RATE, 30, 1), "Failed to set frame rate on H264 MFT out type.\n");
CHECK_HR(MFSetAttributeRatio(pDecOutputMediaType, MF_MT_PIXEL_ASPECT_RATIO, 1, 1), "Failed to set aspect ratio on H264 MFT out type.\n");
pDecOutputMediaType->SetUINT32(MF_MT_INTERLACE_MODE, 2);

CHECK_HR(pDecoderTransform->SetOutputType(0, pDecOutputMediaType, 0), "Failed to set output media type on H.264 decoder MFT.\n");

CHECK_HR(pDecoderTransform->GetInputStatus(0, &mftStatus), "Failed to get input status from H.264 decoder MFT.\n");
if (MFT_INPUT_STATUS_ACCEPT_DATA != mftStatus) {
    printf("H.264 decoder MFT is not accepting data.\n");
    goto done;
}

CHECK_HR(pDecoderTransform->ProcessMessage(MFT_MESSAGE_COMMAND_FLUSH, NULL), "Failed to process FLUSH command on H.264 decoder MFT.\n");
CHECK_HR(pDecoderTransform->ProcessMessage(MFT_MESSAGE_NOTIFY_BEGIN_STREAMING, NULL), "Failed to process BEGIN_STREAMING command on H.264 decoder MFT.\n");
CHECK_HR(pDecoderTransform->ProcessMessage(MFT_MESSAGE_NOTIFY_START_OF_STREAM, NULL), "Failed to process START_OF_STREAM command on H.264 decoder MFT.\n")

Как только декодер создан и вы получаете кодированные кадры H264 откуда-то, вам нужно передать их в MFT, созданный выше. 

    MFCreateSample(&reConstructedVideoSample);
CHECK_HR(MFCreateMemoryBuffer(srcBufLength, &reConstructedBuffer), "Failed to create memory buffer.\n");
CHECK_HR(reConstructedVideoSample->AddBuffer(reConstructedBuffer), "Failed to add buffer to re-constructed sample.\n");
CHECK_HR(reConstructedVideoSample->SetSampleTime(llVideoTimeStamp), "Error setting the recon video sample time.\n");
CHECK_HR(reConstructedVideoSample->SetSampleDuration(llSampleDuration), "Error setting recon video sample duration.\n");

byte *reconByteBuffer;
DWORD reconBuffCurrLen = 0;
DWORD reconBuffMaxLen = 0;
CHECK_HR(reConstructedBuffer->Lock(&reconByteBuffer, &reconBuffMaxLen, &reconBuffCurrLen), "Error locking recon buffer.\n");
memcpy(reconByteBuffer, srcByteBuffer, srcBuffCurrLen);
CHECK_HR(reConstructedBuffer->Unlock(), "Error unlocking recon buffer.\n");
reConstructedBuffer->SetCurrentLength(srcBuffCurrLen);

CHECK_HR(srcBuf->Unlock(), "Error unlocking source buffer.\n");

CHECK_HR(pDecoderTransform->ProcessInput(0, reConstructedVideoSample, 0), "The H264 decoder ProcessInput call failed.\n");

CHECK_HR(pDecoderTransform->GetOutputStatus(&mftOutFlags), "H264 MFT GetOutputStatus failed.\n");

//if (mftOutFlags == MFT_OUTPUT_STATUS_SAMPLE_READY)
//{
    CHECK_HR(pDecoderTransform->GetOutputStreamInfo(0, &StreamInfo), "Failed to get output stream info from H264 MFT.\n");

    while (true)
    {
        CHECK_HR(MFCreateSample(&mftOutSample), "Failed to create MF sample.\n");
        CHECK_HR(MFCreateMemoryBuffer(StreamInfo.cbSize, &pBuffer), "Failed to create memory buffer.\n");
        CHECK_HR(mftOutSample->AddBuffer(pBuffer), "Failed to add sample to buffer.\n");
        outputDataBuffer.dwStreamID = 0;
        outputDataBuffer.dwStatus = 0;
        outputDataBuffer.pEvents = NULL;
        outputDataBuffer.pSample = mftOutSample;

        mftProcessOutput = pDecoderTransform->ProcessOutput(0, 1, &outputDataBuffer, &processOutputStatus);

        if (mftProcessOutput != MF_E_TRANSFORM_NEED_MORE_INPUT)
        {
            // ToDo: These two lines are not right. Need to work out where to get timestamp and duration from the H264 decoder MFT.
            CHECK_HR(outputDataBuffer.pSample->SetSampleTime(llVideoTimeStamp), "Error getting YUV sample time.\n");
            CHECK_HR(outputDataBuffer.pSample->SetSampleDuration(llSampleDuration), "Error getting YUV sample duration.\n");

            IMFMediaBuffer *buf = NULL;
            DWORD bufLength;
            CHECK_HR(mftOutSample->ConvertToContiguousBuffer(&buf), "ConvertToContiguousBuffer failed.\n");
            CHECK_HR(buf->GetCurrentLength(&bufLength), "Get buffer length failed.\n");

            printf("Writing sample %i, sample time %I64d, sample duration %I64d, sample size %i.\n", sampleCount, yuvVideoTimeStamp, yuvSampleDuration, bufLength);

            byte *byteBuffer;
            DWORD buffCurrLen = 0;
            DWORD buffMaxLen = 0;
            buf->Lock(&byteBuffer, &buffMaxLen, &buffCurrLen);
            outputBuffer.write((char *)byteBuffer, bufLength);
            outputBuffer.flush();
        }
        else {
            break;
        }

        mftOutSample->Release();
   }
2 голосов
/ 29 апреля 2011

Microsoft H264 Decoder MFT является чем-то особенным.Он внутренне буферизует множество сэмплов.(Это причина, по которой его нельзя использовать в реальных сценариях, поскольку он всегда вводит задержку около секунды из-за этой внутренней буферизации).Я полагаю, что вы должны кормить его по крайней мере с полной GOP, чтобы получить несколько выходных образцов.Попробуйте 100 *

...