Попробуйте установить угловой радиус слоя кнопки.
[button.layer setCornerRadius:10];
Не забудьте импортировать, если вы используете свойство layer
Также используйте:
[[button layer] setMasksToBounds:YES];
С этим кодом слой получает угловой радиус 10,0, а -setMasksToBounds: говорит слою кнопки маскировать любое содержимое слоя, которое находится под ним в дереве слоев. Это необходимо для того, чтобы слой маскировал закругленные углы.