Если эффект стекла = прозрачность, то Qt поддерживает это, но для этого требуется специальный флаг, установленный в окне. См. http://doc.qt.nokia.com/qq/qq16-background.html для некоторых примеров.
Если вам нужен размытый фон, то я сомневаюсь, что это можно сделать так же легко, поскольку не многие GUI-фреймворки, которые поддерживает Qt, создают такие композиции, как Vista и Win7, поэтому, вероятно, трудно абстрагироваться в кроссплатформенный инструментарий.
Но могут быть возможны и более простые вещи, и с QGraphicsScene вы можете сделать многие из них самостоятельно (но не с фоном окна, IIUC).