Мое решение закончилось так:
// http://www.fundza.com/vectors/normalize/index.html
const normalize = ({ x, y, z }) => {
const length = Math.sqrt(x * x + y * y + z * z)
return {
x: x / length,
y: y / length,
z: z / length
}
}
// https://mathjs.org/docs/reference/functions/cross.html
const cross = ({ x: a1, y: a2, z: a3 }, { x: b1, y: b2, z: b3 }) => ({
x: a2 * b3 - a3 * b2,
y: a3 * b1 - a1 * b3,
z: a1 * b2 - a2 * b1
})
const calculateRotation = (direction, up) => {
const right = normalize(cross(direction, up))
const matrix = [[right.x, right.y, right.z], [direction.x, direction.y, direction.z], [up.x, up.y, up.z]]
const angle = Math.acos((matrix[0][0] + matrix[1][1] + matrix[2][2] - 1) * 0.5)
const axis = (() => {
const k = Math.sqrt(
Math.pow(matrix[2][1] - matrix[1][2], 2) +
Math.pow(matrix[0][2] - matrix[2][0], 2) +
Math.pow(matrix[1][0] - matrix[0][1], 2)
)
return {
x: (matrix[2][1] - matrix[1][2]) / k,
y: (matrix[0][2] - matrix[2][0]) / k,
z: (matrix[1][0] - matrix[0][1]) / k
}
})()
return { angle, axis }
}
Затем вы можете повернуть с помощью:
cubeGroup.setRotationFromAxisAngle(rotation.axis, rotation.angle)
И мне также пришлось повернуть камеру, что может быть необязательным для других случаев.:
camera.rotateX(Math.PI / 2)