Чтобы увеличить доступную память, вы можете закрыть другие открытые приложения, фоновые приложения в панели задач и, возможно, даже некоторые службы Windows.
Вы пробовали альтернативные средства для преобразования входного XML? Возможно, вы можете попробовать бесплатную AltovaXml2011 и посмотреть, есть ли у вас такие же проблемы без графического интерфейса.
Лично я думаю, что это просто общая проблема ПК (у вас просто мало памяти подключено?) И / или необходимо оптимизировать преобразование, которое вы хотите применить ...