Вы нажимаете на узел, только если собираетесь посетить его дочерние элементы. А трассировка стека показывает, что вы никогда не посещаете уже посещенный узел. Если вам нужно повторно посетить узел, вы приглашаете бесконечную рекурсию.
5 не помещается в стек, потому что когда вы посещаете узел 5, вы видите, что его два потомка, 8 и 2, уже посещены. Таким образом, вы переходите к следующему дочернему узлу 8, который является 6. Он тоже уже был посещен, поэтому вы пропускаете его и переходите к 7. Оба его дочерних элемента также были посещены, поэтому вы не посещаете их снова из 7.