Проблема заключается в том, что когда вы предоставляете настройки для AVAssetWriterInputPixelBufferAdaptor для использования при настройке CVPixelBufferPool для генерации CVPixelBuffers, CVPixelBufferPool, очевидно, использует настройки как запрос, а не как фактическую настройку. Получаемый CVPixelBuffer может иметь другую конфигурацию. Это может быть ошибка в коде Apple, я не уверен.
В любом случае вы можете прочитать фактические байты на строку, используя CVPixelBufferGetBytesPerRow (CVPixelBuffer), и соответственно скорректировать свой код. Работал на меня!