MS-DTC не имеет ничего общего с организацией очередей, он является координатором распределенных транзакций, и MSMQ может подключиться к распределенной транзакции для обеспечения надежной доставки сообщений.
Проблема с Biztalk IMHO заключается в дополнительных затратах и сложности поддержки сервера biztalk. Если все, что вам нужно, это поставить в очередь, то Biztalk может быть излишним. Крупный продавец biztalk - это инструменты, которые он обеспечивает для интеграции различных систем.
Что не так с MSMQ? Вы можете легко справиться с этой нагрузкой, и я считаю, что MSMQ может масштабироваться при работе в Active Directory.
Вы могли бы также взглянуть на других производителей IBM MQ Series (которые я бы посоветовал, если вы находитесь в среде Microsoft), Rhino Queues - еще один, с которым я хорошо знаком.