Я не уверен, что вы можете использовать MTOM со службами vanilla .NET asmx ( см. Здесь ). Я знаю, что это возможно, если использовать WCF.
В качестве (плохой) альтернативы можно написать веб-метод, который возвращает сжатые данные в виде строки в кодировке base64 (которая, вероятно, будет довольно длинной в зависимости от размера файла, поэтому полезна только для небольших наборов данных). Затем вы декодируете строку в клиенте, чтобы получить исходные данные.