Я предполагаю, что при возвращении GetForegroundWindow у вас есть способ проверить, что возвращенный HWND получен из интересующего приложения, а не из какого-либо другого окна.
В любом случае используйте EnumWindows, чтобы получить все окна на экране. Найдите HWND, соответствующее приложению, которое вы ищете.
Если у вас нет способа проверить HWND, позвоните в EnumWindows перед запуском приложения, чтобы получить общее количество окон на экране. Затем запустите приложение с помощью скрипта автоматизации. Опрос счетчика окон через EnumWindows, пока счетчик не увеличится на единицу.