Нашел способ сделать это в Stage3D, вероятно, то же самое на других платформах:
сначала вы создаете пустую матрицу 3D:
var m3d:Matrix3D = new Matrix3D();
затем вы поворачиваете его с заданным вектором ориентации из файла X3D:
m3d.appendRotation(v.w*180/Math.PI,new Vector3D(v.x,v.y,v.z));
разложить матрицу
var angles:Vector3D = m3d.decompose("eulerAngles")[1];
Вы получаете xyz углы в радианах, поэтому поворачивайте радианы в градусы:
var _z:Number = angles.z*180/Math.PI;