Есть ли у него имя собственного класса? Если это так, вы можете найти дескриптор окна по имени класса (FindWindow).
Я немного хакерский тип, когда речь заходит об этом в Windows, поэтому я обычно стараюсь сначала, а не пытаться найти «правильный» метод. Все старые вещи для меня, однако, я больше этим не занимаюсь - см. Blackbeltvb.com
Два других способа, которые я сделал, это 1) перехватить сообщения о создании окон, посмотреть, что это всплывающее окно, затем что-то с ним сделать (SetWindowsHookEx) и 2) перечислить все используемые дескрипторы окон, затем посмотреть новый.