Я не знаю много о DX10, но недавно я сделал это в OpenGL, похоже, вы делаете свои нормали для каждого треугольника, что даст вам плоскую штриховку, так что то, что вы видите, вероятно, правильно.
Если вы хотите вычислить свои нормали для каждой вершины, используйте что-то вроде:
((x + 1) - (X-1)) X ((Y + 1) - (Y-1))
где X - вершина в направлении X на сетке и Y в направлении Y.