Устройство pdfwrite в Ghostscript не поддерживает AES или DES при шифровании вывода, оно поддерживает только стандартный метод.
Переключатель EncryptionR только контролирует, какая версия стандартного обработчика безопасности используется, и имеет только два значения 2 или 3, как описано в gs / ps2pdf.htm и в справочном руководстве PDF (таблица 3.19 на стр. 122 в моей копии 1.7 ссылки)