Как описано в документации, функция TransactionOutbox гарантирует, что транзакция фиксируется только тогда, когда все сообщения, отправленные или опубликованные из контекста потребителя, фактически отправлены на шину сообщений.
MassTransit всегда повторяет попытку отправки сообщения, если транспорт не подтверждает сообщение. В любом случае, он не является частью исходящей почты.
Если транспорт не сможет отправить или опубликовать sh ваши сообщения, фиксация не будет, поэтому транзакция будет откатана.