Если вы ищете что-то похожее на то, что делает MSN Messenger, когда вы получаете новое сообщение (по крайней мере, у меня так работает), вы можете попробовать перехватчик пакетов, чтобы увидеть, какие пакеты приходят и уходят, когда всплывающее окно происходит.