Я не знаком с использованием Workflow, но, зная, как работают MSMQ и WCF, вы можете попробовать это
При возникновении исключения Correlation:
- Поймай исключение
- Возврат из вашего метода обслуживания
Поскольку ваш метод обслуживания не выдает исключение, он будет думать, что сообщение было успешно обработано, и удалит его из очереди.
Когда возникает InstanceLockException:
- Поймай исключение
- отбросить исключение
Так как ваш метод службы генерирует исключение, он будет считать, что сообщение не было успешно обработано, и переместит его в очередь повторных попыток.