Эта ошибка возникает из-за того, что videoView.getWidth и метод .getheight дают значение больше, чем поддержка режима pip, в качестве исключения, говоря, что установленное соотношение сторон больше, чем поддержка режима pip.Давайте оставим это для Android, не устанавливая коэффициент самостоятельно
pictureInPictureParamsBuilder.build();
enterPictureInPictureMode(pictureInPictureParamsBuilder.build());
или если вы хотите установить пользовательский режим, как показано ниже, но ваше соотношение должно быть между 0,418410 и 2,390000:
Rational aspectRatio = new Rational(192, 108);
pictureInPictureParamsBuilder.setAspectRatio(aspectRatio).build();
enterPictureInPictureMode(pictureInPictureParamsBuilder.build());