Это больше вопрос о том, как спроектирована и сконфигурирована топология RabbitMQ, и она не зависит от используемой клиентской платформы.
И если у вас несколько потребителей, потребляющих сообщения из одной очереди, они получают сообщения в циклическом порядке по умолчанию.
В вашем случае, когда вы говорите, что в случае, если Instance1 не может обработать сообщение, ему следует заблокировать сообщение, и в этом случае сообщение будет поставлено в очередь и будет доставлено следующему экземпляру.