Существует хорошо поддерживаемый Java, называемый HtmlUnit, который абсолютно безголовый - графического интерфейса нет. Это работает Javascript.
Если вы не хотите напрямую вызывать Java, теоретически вы можете запустить Selenium с HtmlUnit в качестве бэкэнда без головы - хотя я пока не заставил его работать.
Кроме того, вы можете найти Selenium 2 лучше, чем Selenium RC. В него встроен WebDriver, и, похоже, он станет лучше и полнее.
Наконец, вы можете запустить Selenium удаленно на своем отдельном Linux-сервере и вызывать его с Mac удаленно. Или вы можете использовать такой сервис, как Sauce Labs.