Согласно этому ответу , команда OpenSSL, которую вы показываете, создает сигнатуру RSASSA-PKCS1-v1_5, которая по определению всегда содержит закодированную структуру ASN.1 DER: ваше предположение на самом деле неверно.
Однако, для фиксированного алгоритма хеширования приемнику не требуется и не рекомендуется реализовывать полный анализатор DER.Он может просто проверить наличие определенной строки байтов (вместе с некоторыми другими байтами заполнения, и перед проверкой дайджеста в крайнем правом положении). В этом другом ответе показана кодировка DER для самых популярных алгоритмов дайджеста.
Если вы действительно не хотите, чтобы в ваших подписях был ASN.1, вы можете переключиться только на RSASSA-PSS.