Большинство людей используют Parallels (или другой инструмент виртуализации), чтобы они могли использовать ModelSim на Parallels на своем Mac. Некоторые просто используют SSH на сервере Linux компании, который запускает симулятор.
Еще один интересный способ - www.plunify.com . Это сервис, который запускает ваши симуляции в облаке и отправляет вам результаты по электронной почте.
Наконец, я слышал, что есть коммерческий симулятор VHDL, который изначально работает на Mac OS X: DirectVHDL . У него есть ограничения, но он может быть достаточно хорош для начала.