Существует более простой способ, чем даже математика, на которую указывает Люциус. Вы можете использовать вспомогательный путь ключа, который обеспечивает Core Animation, чтобы извлечь текущее вращение заднего слоя UIView:
CGFloat rotationAngle = [[view.layer valueForKeyPath:@"transform.rotation.z"] floatValue];
Это даст вам текущее вращение вида в радианах. Обратите внимание, что при этом отображаются положительные значения для первого полукруга вращения по часовой стрелке и отрицательные значения для второго, поэтому вам нужно будет учесть это в своих вычислениях.