Достаточно сделать что-то похожее на следующее:
Чтобы узнать, используете ли вы Mac и не используете версию для командной строки:
(when (and (eq system-type 'darwin) window-system)
(setq my-option "cocoa"))
Чтобы узнать, используете ли вы Mac и используете версию для командной строки:
(when (and (eq system-type 'darwin) (not window-system))
(setq my-option "command-line"))
РЕДАКТИРОВАТЬ: я отредактировал свой ответ, чтобы проверить Mac (системный тип), а не командную строку (оконная система).