Если вы говорите о преобразовании координат мирового пространства (x, y, z) в координаты экранного пространства (u, v), то основной подход:
u = x / z;
v = y / z;
Если камера не в исходной точке, преобразуйте (x, y, z) по матрице вида перед матрицей проекции. Вы также можете настроить перспективу камеры, соотношение сторон и т. Д., В этом случае я буду ссылаться на эту статью в Википедии .
Приношу свои извинения, если вы ищете что-то конкретное для Lua API, с которым я не знаком.