На самом деле, я думаю, что на Mac это будет совсем не так, как на iPhone, так как вы можете уже открыть приложение на Mac и вызвать схему URL, тогда как на iPhone вам нужно выйти из приложения, чтобы открыть другое, чтобы позвоните по схеме URL.
Что вы можете попробовать, так это добавить кнопку отладки в ваш пользовательский интерфейс, которая позволяет вам вызывать схему URL изнутри запущенного приложения (вызывая -openURL: в NSWorkspace). Теоретически это должно работать одинаково, независимо от того, открыто или закрыто ваше приложение при отправке схемы URL.