Если вы создаете диалог на wxGTK, то во время построения
gtk_window_set_type_hint(GTK_WINDOW(m_widget), GDK_WINDOW_TYPE_HINT_DIALOG);
вызывается, что оставляет оконному менеджеру, какое оформление показано для этого окна. Так что, если вы зададите стиль, но кнопки не будут отображаться, вы ничего не сможете сделать. В любом случае, я думаю, что показ wxFrame , пока родительский фрейм отключен, должен работать так же хорошо.