Я никогда не пробовал, но Hercules - эмулятор мэйнфрейма, который должен работать на OSX. Основная проблема, связанная с любой эмуляцией мэйнфреймов, заключается в получении необходимого программного обеспечения. Очень немногие (если таковые имеются) программного обеспечения, которое работает на современном мэйнфрейме, имеют лицензию на запуск на эмуляторах.
Если вы предоставите немного больше информации о том, чего вы пытаетесь достичь, тогда кто-то сможет найти более полезный ответ. То есть вы пытаетесь понять архитектуру, изучить ассемблер, работать с IMS или CICS и т. Д.?