Я думаю, что не могу решить вашу проблему с вашей библиотекой, но обычно, если вы обрезаете видео, и к слою не прикреплен буфер альфа-пикселей, альфа-пиксели будут черными.
Если выбудет использовать AVPlayerLayer, вы можете решить проблему с помощью одной строки кода.
playerLayer.pixelBufferAttributes = [(kCVPixelBufferPixelFormatTypeKey as String): kCVPixelFormatType_32BGRA]
Возможно, это поможет вам решить вашу проблему.