Я думаю, что это ожидаемое поведение, так как оконный менеджер (если я не ошибаюсь) рисует окна в соответствии с их положением, z-index, ... Так что библиотека Qt не имеет ничего общего с этим.
Если вы управляете отображением этого другого приложения, вы можете вручную скрыть древовидный виджет и показать его снова при закрытии другого приложения?
В противном случае, вы должны попытаться улучшить свой виджет, и если вам нужна помощь, вы должны дать нам код:)