Это поздний ответ, но он может быть полезен для других, у меня была та же проблема, и я исправил ее так:
Qt::WindowFlags flags = Qt::Window | Qt::WindowSystemMenuHint
| Qt::WindowMinimizeButtonHint
| Qt::WindowCloseButtonHint;
this->setWindowFlags(flags);
внутри переопределенного диалогового конструктора.