Хотя у меня нет большого опыта работы с TxF, у меня есть опыт работы с MS DTC. Сам TxF довольно производительный. Когда вы добавляете MS DTC для обработки нескольких менеджеров ресурсов на нескольких машинах, производительность сильно падает.
Из вашего описания звучит так, будто вы храните и индексируете очень большие объемы неструктурированных данных. Я предполагаю, что вам также нужна возможность поиска этих данных. Поэтому я настоятельно рекомендую рассмотреть что-то вроде Microsoft Dryad или Google MapReduce и высокопроизводительную распределенную файловую систему для хранения неструктурированных данных и индексирования. Лучшими примерами крупных корпоративных систем, которые хранят и индексируют большие объемы больших двоичных данных, являются поисковые системы Интернета, такие как Bing и Google.
Существует достаточно ресурсов для управления неструктурированными данными с высокой пропускной способностью, и они, вероятно, решат вашу проблему более эффективно, чем SQL Server и NTFS.
Я знаю, что это немного дальше от коробки, чем вы, вероятно, искали ... но вы упомянули, что вы уже исчерпали все другие возможности поиска вокруг окна NTFS / TxF / SQL. ;)