Цвет прямоугольной кнопки с закругленными углами можно изменить на любой цвет со свойством background color в IB, а также с помощью кодирования, но он не может легко изменить цвет на прозрачный.Для этого вам лучше использовать пользовательскую кнопку с закругленным изображением или заданным слоем, как показано в примере, и не забудьте добавить платформу Quartz Core в проект, а также импортировать ее в свой класс.
UIBUtton *myBtn = [UIButton buttonWithType:UIbuttonTypeCustom];
myBtn.frame = frame; //your desired size
myBtn.clipsToBounds = YES;
myBtn.layer.cornerRadius = 5.0f;
[self.view addSubView:myBtn];