VideoView не поддерживает вращение видео, даже если матрица композиции установлена правильно и используется атрибут вращения.
Что вы можете сделать, это использовать TextureView и установить его атрибут вращение = "90" (например). Затем он будет вращать кадры, но соотношение сторон - это то, что вам нужно для себя. Для этого вы можете использовать textTureView.setScaleX ((screenHeight * 1.0f) / screenWidth)
Подробнее здесь: Вращение андроида VideoView