У вас установлены инструменты разработчика OS X? Если вам не хватает XCode, у вас могут не быть ключевых компонентов, таких как заголовочные файлы для Ruby и MySQL.
Если вы используете системный Ruby по умолчанию, возможно, стоит потратить усилия на использование MacPorts или RVM для управления установкой. Лично мне больше нравится MacPorts, поскольку он также помогает в установке различных системных библиотек, которые могут потребоваться.
Вот пример о том, как установить с помощью MacPorts. Ранее он назывался Darwin Ports, но принцип тот же.