Используйте GetForegroundWindow, чтобы получить дескриптор окна, с которым работает пользователь. GetClientRect даст размеры активной части окна без границ; используйте ClientToScreen для преобразования прямоугольника в координаты монитора.
Вызовите MonitorFromRect или MonitorFromWindow, чтобы получить монитор, в котором находится окно. Используйте GetMonitorInfo для получения координат монитора.
Сравните два прямоугольника - если прямоугольник окна полностью покрывает прямоугольник монитора, это полноэкранное окно.