То, что вы видите, это билинейная интерполяция. Это сделано зрителем. Вероятно, Matlab определяет содержимое графика как растровое изображение (полагаю, вы используете imagesc?).
Решение не простое. Это может помочь использовать другую цепочку обработки (как указывал WtFudgE), которая приведет к тому, что данные окажутся в формате, в котором они больше не интерполируются Вы также можете использовать другой просмотрщик, который не интерполирует, и я предполагаю, что принтер также не будет интерполировать. Это снова может зависеть от приложения, из которого вы печатаете.
Извините, что у меня нет решения для вас; по крайней мере, теперь у вас есть новые слова для поиска в Google. ;)