Да, ваша проблема с х и у. В портретном режиме это правильно, где x равно 480, а y равно 320. Однако в альбомной ориентации два значения меняются местами.
Попробуйте вместо этого код;
CGRect _frame = [[UIScreen mainScreen] bounds];
if (ball1.center.x > _frame.size.width || ball1.center.x < 0)
ajout.x = -ajout.x;
if (ball1.center.y > _frame.size.height || ball1.center.y < 0)
ajout.y = -ajout.y;
Это должно вернуть правильные границы вашего экрана (320x480 в портретной ориентации, 480x320 в альбомной ориентации) и сравнить с этими значениями.
Приветствия.