Я понял, в чем проблема. Eagle CAD 5.x для Mac OS X не имеет того же кода импорта библиотеки, что и версия для Windows. Из-за способа, которым файлы были сохранены в 4.x Eagle, код импорта в Mac OS X не знает, как обрабатывать формат файла, в отличие от кода в Windows.
Исправление простое: на компьютере с Windows откройте библиотеку и сохраните библиотеку. Он обновит свой формат до более нового формата, который затем можно будет использовать в версии Eagle CAD для Mac OS X.