Вы можете использовать OpenSSL для этого, он должен быть установлен по умолчанию на OS X. Этот учебник показывает, как вы можете создать свой собственный самозаверяющий сертификат.
Вы также можете использовать OpenSSL для чего-то более сложного, например, для корневого ЦС, который будет напрямую выдавать дополнительные СУ-СА или сертификаты конечных объектов.