Я не знаю, под "нет панели инструментов" вы имеете в виду "нет строки заголовка" или нет, но этот пример может вам помочь. В любом случае, используя следующий код, вы можете получить окно с просто кнопкой закрытия и «строкой заголовка»:
window->setWindowFlags(Qt::Window | Qt::WindowCloseButtonHint);
Если вам не нужна строка заголовка, попробуйте удалить ее и оформить самостоятельно.