Если вы используете NSBox, убедитесь, что ваша кнопка внутри NSBox в иерархии.Затем используйте «мгновенное нажатие» в качестве типа кнопки.При нажатии кнопка тускнеет, но границы не будет.
Когда я использовал NSBox с NSButton на том же уровне иерархии, я бы увидел границу при нажатии.