DXGI Desktop Duplication API предлагает вам захват частей рабочего стола. Нет возможности захватить указанное c окно, но у вас есть все координаты, и поэтому вы можете извлекать определенные окна c области самостоятельно (если и когда они не закрыты, конечно; если они есть, у них нет быть включенным в композицию рабочего стола в первую очередь).