Сетка, которую вы изначально создали, это в проекционном пространстве или в реальных экранах? Похоже, что это в проекционном пространстве, так как вы преобразуете его только с помощью инверсии матрицы проекции вида, чтобы попасть в мировые координаты. Я думаю, вам нужно включить матрицу «Окно», то есть преобразовать их с помощью инверсии матрицы «Вид-Проекция-Окно» (и аналогично возвращению к экранным кодам).
Edit:
Я, наверное, не совсем понимаю, что вы пытаетесь сделать, вот несколько вопросов назад. :)
Вы пытаетесь взять сетку, показанную на скриншоте в вашем вопросе, и спроецировать ее на координаты мира z-x? Если так, то почему вы начинаете с сетки значений z-x? Кроме того, если вы примените к ним матрицу обратного обзора, то, несомненно, вы получите линию, поскольку камера смотрит вдоль z, хотя ваши вторые снимки экрана показывают, что вы получаете плоскость. Я немного смущен.