Вы используете ближайшие и линейные для масштабирования текстур, которые оба не очень точны. Возможно, вы захотите использовать линейный для обоих, или построить MIPMAP. Также, если вы используете ортогональный вид, попробуйте выровнять вашу геометрию по пикселям.