Возможно, вы упускаете.
spring.rabbitmq.listener.type=direct
spring.rabbitmq.listener.direct.default-requeue-rejected=false
у меня отлично работает;ошибочные сообщения отклоняются без постановки в очередь.
Тип контейнера по умолчанию - simple
, поэтому заданное вами свойство direct
игнорируется.