Решение не будет уникальным, как указывает Alex319.
Если второе изображение действительно трапеция, как вы говорите, то это не будет слишком сложно. Это трапеция (не параллелограмм) из-за перспективы, поэтому она должна быть равнобедренной трапецией.
Нарисуйте две диагонали. Они пересекаются в центре прямоугольника, так что позаботится о переводе.
Вращайте трапецию, пока ее параллельные стороны не будут параллельны двум сторонам исходного прямоугольника. (Какие два? Это не имеет значения.)
Проведите третью параллель через центр. Масштабируйте его по сторонам прямоугольника, который вы выбрали.
Теперь для вращения вне плоскости. Измерьте расстояние от центра до одной из параллельных сторон и используйте закон синусов.
Если это не трапеция, а только четырехугольник, то будет сложнее, вам придется использовать углы между диагоналями, чтобы найти ось вращения.