Обратите внимание, что вопрос несколько непонятен: Emacs может работать как с tty-кадрами, так и с GUI-кадрами одновременно.
Переменная window-system
является «терминально-локальной», что означает, что ее значение будет зависеть от того, является ли текущий выбранный кадр кадром tty или графическим интерфейсом.