Это простой способ проверить, находится ли точка в окружности:
-(bool)pointInCircle_circleCenter:(CGPoint)circleCenter circleRadius:(float)radius testPoint:(CGPoint)point{
float distance = (circleCenter.x-point.x) * 2 + (circleCenter.y-point.y) * 2;
return distance <= radius * 2;
}