У меня была точно такая же проблема. Не удалось установить гемы с собственными расширениями. Запуск
$ open /Library/Developer/CommandLineTools/Packages/macOS_SDK_headers_for_macOS_10.14.pkg
не удалось, поскольку файл не существует. Похоже, Мохаве может сломать инструменты командной строки.
Я исправил это, удалив инструменты командной строки Xcode, снова установив их, а затем установив недостающие заголовки:
$ sudo rm -rf /Library/Developer/CommandLineTools
$ xcode-select --install
$ open /Library/Developer/CommandLineTools/Packages/macOS_SDK_headers_for_macOS_10.14.pkg