Эффект зависит от ширины видео, а не от ориентации. Кадровые буферы могут быть фактически больше (шире), чем кадры, и вы, возможно, игнорируете это на каком-то этапе вашей обработки. Видео имеет ширину 1080 пикселей, и видео буферы, в соответствии с требованиями выравнивания видеооборудования, могут быть, например, 1152 или 1536 пикселей в ширину. Вы должны копировать данные, принимая во внимание такое выравнивание, строка за строкой, в левый верхний угол большего буфера.
В вопросе нет кода или деталей, чтобы угадать, где именно возникает проблема. Это может быть шаг, например, для загрузки данных в текстуру. DirectX 9 и другие версии, DirectShow, Media Foundation - все API, так или иначе, поддерживают концепцию расширенных шагов, поскольку это типичные требования макета для данных в видеопамяти (также для обработки SIMD).
К вашему сведению, обсуждались еще несколько вопросов с аналогичным эффектом: