Структура вашего MXML полностью неверна.
Вам необходимо хранить компоненты MXML (например, окно TitleWindow, которое планируется использовать в качестве всплывающего окна) отдельно от разметки основного приложения.
Например, создайте отдельный компонент MXML с именем MyForm.mxml. Этот компонент должен быть TitleWindow с Tab Navigator. Навигатор табуляции должен иметь 3 компонента Canvas в качестве дочерних элементов.
Затем, в логике вашего основного приложения, кнопка должна запустить всплывающее окно, MyForm.mxml примерно так:
var form:MyForm = MyForm(PopUpManager.createPopUp(this, MyForm, true));
PopUpManager.centerPopUp(MyForm);
Наконец, в вашем компоненте MyForm.mxml добавьте прослушиватель событий для закрытия. Метод должен вызывать только: PopUpManager.removePopUp(this);