Файл XNB, создаваемый конвейером содержимого, содержит данные распакованного изображения, поэтому его размер будет простой функцией от размеров текстуры и битовой глубины. Если вы хотите, чтобы размеры файлов были меньше, то либо используйте меньшие текстуры (то есть, меньше пикселей; если у вас есть 1 текстура или 100, не имеет значения, если они все вместе содержат одинаковое количество пикселей), либо используйте формат текстуры, который хранит меньше данных на пиксель. Вы должны иметь возможность изменить параметр «Формат текстуры» (под процессором содержимого) для каждой текстуры, чтобы настроить ее битовую глубину.
Я бы спросил, действительно ли это необходимо. Как отмечалось в комментариях, это действительно не должно быть настолько большим делом, особенно если рассматриваемый актив - игровое поле вашей игры. Это телефонная игра?